在人工智能呈现（xiàn）一番欣欣向荣的景象之（zhī）时（shí），这项（xiàng）技术的问题（tí）和（hé）潜在威（wēi）胁也正在显现。是时（shí）候认真探讨一下AI技（jì）术的“价值（zhí）观”问题了。

很多（duō）人（rén）最近一定注意到（dào），有关（guān）AI的负（fù）面新闻频频上头条，而且还带有很强的魔幻色（sè）彩。

11月20号，韩国13岁（suì）的天才围（wéi）棋少（shǎo）女金（jīn）恩持承认了她（tā）在9月底的一场在线（xiàn）围棋比赛中作弊，使（shǐ）用了AI推荐的棋（qí）谱（pǔ），约等于断送了自己的职业生涯。11月（yuè）27日，伊（yī）朗核武器专家法赫里扎遭到一（yī）挺（tǐng）由AI控（kòng）制的自动机枪的袭（xí）击而身亡，这（zhè）意味着精准的人脸识（shí）别技术作为AI武器已（yǐ）经参与到人间的杀戮当中。

说回国内，前一段时间有（yǒu）人带（dài）头盔去售楼处看房，就是为避免（miǎn）被房地产商进行（háng）精准（zhǔn）的人脸识别而被，当做“熟客”来“宰杀（shā）”，人脸识别滥用问题（tí）已摆在我（wǒ）们面前。更荒（huāng）诞的是，最近曝出（chū）一个房产中（zhōng）介就利用政府机构的在线服务的流程流动，轻而易举地让售房者在不知情的状况下通过人脸识别（bié）系统把房子过户给了买（mǎi）家，自己套取了交易款。原本为民提供便利的AI服务成了（le）别有用（yòng）心者的帮凶。

“杀人者人也，非刀也”，这是我们（men）为（wéi）“工具无道德价（jià）值”做辩护的古（gǔ）老理由，也是（shì）人类确证（zhèng）自己具有独一无二的道德价值的傲娇说（shuō）辞。同样（yàng）这一理（lǐ）由似乎（hū）也可以为上（shàng）面这（zhè）些AI的负面案（àn）例做解释（shì），可以说这里的AI技术也都只是人类应（yīng）用的工（gōng）具，真正始作俑者的（de）还是人类（lèi）。

这样说似乎无（wú）可厚（hòu）非，正如（rú）一切技术的发明带给人类巨（jù）大福祉的同时（shí）也可能带来可能的灾祸一样，反之亦然。比如诺贝尔发明的炸（zhà）药可以开矿搬（bān）山也可以投入（rù）战场屠戮生灵，核（hé）技术可以用来（lái）制造原（yuán）子弹毁天灭地也可（kě）以用来做（zuò）核电站造福大（dà）众。理性乐（lè）观派总是相（xiàng）信人类可以（yǐ）通过技术进步创造（zào）一个美丽新（xīn）世界，并克服技术产生（shēng）的种种负（fù）面效应。

不过，我们需要（yào）注意（yì）的是，这一次人（rén）工智能（néng）技术革（gé）命的不同之（zhī）处在（zài）于（yú）它将（jiāng）真正重塑人（rén）类。以往的任何一场技术革命只是增强了人类在体力、脑力等方面的专项能力（lì），但（dàn）这一次AI将直接抵达（dá）人的核心（xīn）本质——那个所谓撑起人尊严和价值的“自（zì）由意志”。

大（dà）多数人会将这种（zhǒng）宏大（dà）议题当作杞人（rén）忧天的无（wú）稽（jī）之谈，因为（wéi）“狼来了”的故事人们（men）已经听过（guò）多次（cì）。很（hěn）多大人物对于人工智（zhì）能威胁人类（lèi）地位的告诫，也有种“口嫌体正直（zhí）”的意味（wèi），无（wú）不在自己的领域内推动（dòng）AI技术的进化和（hé）使用（yòng）。

但（dàn）是作为人类社会基（jī）石（shí）的“自由意志”本身（shēn）已经从脑神经科学和社会（huì）学上被严重挑战，而（ér）人工（gōng）智能在模拟和指导（dǎo）人类（lèi）决策的能（néng）力又在大幅（fú）提升，这样我们就将（jiāng）接近这个人类命运（yùn）改（gǎi）变的交汇（huì）点（diǎn）：人的自由被还原为一种可（kě）计算（suàn）的生理（lǐ）机制，AI的计算能力（lì）又（yòu）超（chāo）过人类的计（jì）算能力。

这时，我们也（yě）就如同温水中的青（qīng）蛙（wā），只（zhī）能黯然接受“被煮（zhǔ）熟”的命运（yùn）安排（pái）。幸而在AI技术正在日渐暴（bào）露出这些无（wú）伤大雅的问（wèn）题之时，我们仍然（rán）要有一（yī）种对AI的警惕。

那就（jiù）是AI拥（yōng）有“自由意志”之时，可以做到价（jià）值中立（lì）吗（ma）？

技术的价值中立难成立，AI亦（yì）然

在关于“技术（shù）是否价值（zhí）中立”的探讨中，现实的人们大（dà）多会（huì）倾向于“技（jì）术（shù）中立”的观点。

我们通常认为一项技术的道德价值在于使（shǐ）用它的人，比如决定一把刀是用来烹饪（rèn）还是（shì）用来行凶的关键是（shì）手握这把刀的那个人（rén）的想法；而一项技（jì）术的价值大小也（yě）不在于它（tā）自身而在（zài）于使用它的人的用途，比如在（zài）电影《上帝也疯（fēng）狂》里（lǐ），非（fēi）洲（zhōu）原始部落的人们获得（dé）了一个完整的可乐玻璃瓶，这个在现代（dài）社会平（píng）平无奇的消费品，从一开始被当做无所（suǒ）不能的神物到（dào）后面变成（chéng）引发族群纷争的魔鬼。这个可乐瓶的价值在土著人手里就经历了天壤之别的变化。

这一（yī）假设的好（hǎo）处（chù）就是维护了人的尊严（yán），选择什（shí）么样的技术用来做什么样的事情，都是我们自己的选择，最终的后果都要由（yóu）我们来负责。

但（dàn）实际（jì）上真的如此吗？

从（cóng）最初的人（rén）类开（kāi）始掌握生火（huǒ）和放火这一项（xiàng）最初级技（jì）术的时（shí）候，一个部落中的女性就能释（shì）放出超出她体力（lì）数以万倍的能量，因为一把火（huǒ）就能烧（shāo）出一大片森林（lín），他们就能收获这片土地里没有（yǒu）来（lái）得及逃跑的生灵的肉类，后面还可以开（kāi）垦出一片又一片（piàn）的（de）农田。想（xiǎng）想今天（tiān）的（de）亚马逊雨（yǔ）林（lín），在全球化的消费贸易网络（luò）中，被（bèi）巴西（xī）农民几乎烧毁（huǐ）殆尽来该种（zhǒng）粮（liáng）食作物。火本身是无（wú）目的的，但是使用火（huǒ）的（de）人是知晓火的特（tè）性（xìng）和威力，也能控制火的（de）范围和用途。人类之火（huǒ），与天然之火的不同之（zhī）处在于（yú），火本身已经包含了人类的意志和目的。

可以想见（jiàn），人（rén）类此后发明（míng）的任何一个工具或技术都或（huò）多或少包（bāo）含着（zhe）发明者本身的目的。一把锋利的石刀既带有了切（qiē）割了（le）功用，也带有了杀戮的能力，而一把（bǎ）枪发（fā）明（míng）出（chū）来，自然（rán）就有着更高效地杀戮（lù）的功效在里面，不管（guǎn）买它的人是用来防身还是用来害人，都是深知这一点的。一项技术的发明总是（shì）有原因的（de），而原因背后一（yī）定是有目的（de）方向性的，暗（àn）含了其主观（guān）价值。

随着人类的（de）技术（shù）工具越来（lái）越复杂和高级，技（jì）术的目（mù）的性对于使用（yòng）者的影响（xiǎng）也就越大（dà）。而且我们已经（jīng）越发（fā）习（xí）惯这些技术（shù），就如同我们（men）须臾（yú）离不开电池和网络一样，这些技术已经（jīng）在潜移默化地改变（biàn）着（zhe）我们的（de）选择（zé）和判断。当我们以为自己的选择是自由选择（zé）的时候，其实大多（duō）数都是被工具所训练和改变（biàn）了的。

最典型的现代技术莫过于各（gè）种互联网（wǎng）应用和（hé）游戏，以（yǐ）短视频最为典型。依托沉（chén）浸式展示（shì）、无限下滑换页和偏（piān）好推荐算法，短视频成为（wéi）手机用户（hù）的“杀时间”神器，很多人不知不觉就（jiù）会在其中花费数十分钟（zhōng）时（shí）间。如（rú）果稍加（jiā）反省，我们就会发现这套推荐技术（shù）当中所包含的（de）利用人性弱点和上瘾机（jī）制来获取用户（hù）时（shí）间的价值倾向。

虽然我们清楚这些公司（sī）和他们的聪明无比（bǐ）的工程师（shī）未（wèi）必有操（cāo）纵人心的恶意，而（ér）只是有取（qǔ）得商业成功的动机，就（jiù）会不（bú）断（duàn）地加入（rù）操纵人心的（de）技术。而这一（yī）次，工程师们有了一个最好的助手，那就是人（rén）工（gōng）智能。

AI算法（fǎ）的最初目（mù）标一（yī）定是体现了人类的某一目的，比如在对抗学习中拿到（dào）最高（gāo）的分数、在图像识别中（zhōng）得（dé）到最高的识别率，在偏好推荐上要不断满足用户（hù）喜（xǐ）好，找到尽可能多的相似内容。人工（gōng）智能不仅在某些方（fāng）面表现不错，而（ér）且还有了赶超人类决（jué）策的计（jì）算能（néng）力。

从“不（bú）够好”的AI到（dào）“被用坏（huài）”的AI

AI威（wēi）胁论（lùn），很（hěn）多人已经讲了（le）很（hěn）多次，但我们（men）这里并不（bú）是再重复这种大众所理解的“AI统治人类”“AI取代人类工作”的观点。因为这种观（guān）点（diǎn）也仿佛再说AI会成为一（yī）个独立（lì）于人的新的物种存在，而（ér）如今来看，这样的AI不（bú）知要到猴年马月（yuè）才实现，或者（zhě）根本无（wú）法实现。

我们这里强调的是，不同（tóng）于（yú）以往任何力学的、化学的（de）、生物的技术，仅仅（jǐn）提高人类的局部性（xìng）的能力，这一次AI技术这次要（yào）替代的是人的感知、判（pàn）断和决策能力，是对人的理性（xìng）行为（wéi）的一种“复刻”。

AI技术的这种“非中立（lì）”特性难免会导致以下结果：

一、AI算法（fǎ）在数据（jù）训练中由于模型设计（jì）和数据样本不足等问题会（huì）难以避免地（dì）出现偏见。

比如（rú），2018年的（de）一（yī）则报道中，亚马（mǎ）逊的AI招聘系统被指（zhǐ）出系统性地（dì）歧视女性，在发现简历中出现“女性”字样就会降（jiàng）低应聘者（zhě）的（de）分（fèn）数（shù），而且（qiě）还被发现，标注（zhù）某两所女子大学（xué）的简历（lì）也会在排序上被（bèi）降（jiàng）级（jí）。而人工智能的（de）这一权重（chóng）决策正（zhèng）是来自于学习了亚马逊此前10年的（de）简历数据。显然，这十年（nián）中，大部分被录用的候选人都（dōu）是男性，人类HR在招募技术（shù）岗位上的偏好也教会（huì）了人（rén）工智能采用同（tóng）样（yàng）的策略。

而在（zài）更常见（jiàn）的人脸识别领（lǐng）域，则出现了明显（xiǎn）的（de）性别和种族歧视的（de）算法偏见（jiàn）。根据（jù）美国NIST（国家标准（zhǔn）及技术研究院（yuàn））在2019年12月的（de）一份（fèn）报（bào）告（gào），在美国（guó）人脸识别系统中，黑（hēi）人的（de）人脸识别错误率是白种人的100倍，与黄种人相比，黑人人脸（liǎn）的识别错误率也是前者的10倍，而在执（zhí）法机关的人脸（liǎn）图片库中，识别（bié）错误率最高的是美国原住（zhù）民。另外（wài），女性和老人的（de）脸部也（yě）更难以识别。这一研究的（de）数据来源是美国签证申请和（hé）过境数据库中的1800万张（zhāng）人（rén）脸照片，并测试了189种人脸识（shí）别算法，研究结果代（dài）表了绝大部（bù）分商业应用算法的结（jié）果。

今年上映的一部《编码（mǎ）偏见》的流媒体影片（piàn）正（zhèng）揭露了这一问题，人工智能正（zhèng）在接管着关于（yú）人们（men）的信息、安（ān）全、机会（huì）甚至自由（yóu）等权（quán）力的时候，如果人们不改正这些算法中存在的（de）偏见和歧（qí）视，那（nà）么AI技术（shù）会必然创造一个更加糟（zāo）糕的世界，比如被错误识别并逮捕（bǔ）的少数族裔青年、被算法判断为能力不足的女性员工（gōng），被垃圾信（xìn）息所（suǒ）包围（wéi）的少年。

当然，这还只是AI技术（shù）不够好的（de）一种（zhǒng）表现（xiàn）。很多人觉得我们可以不断调整（zhěng）算法，增（zēng）大数据样本就（jiù）可以（yǐ）解（jiě）决这些（xiē）低级（jí）错（cuò）误、算法歧视等问（wèn）题。假如偏见可以消除、算（suàn）法（fǎ）可以优化，我们又将迎来一个（gè）怎样的（de）局面呢？

二、AI技术很可能会由于数据的（de）规模（mó）聚集和（hé）技（jì）术（shù）竞赛的（de）排他（tā）性中，掌握在少数（shù）技术公司和政（zhèng）府手中，帮助拥有技术特权的人群（qún）和组织获得难以撼动的权力和财富，从而巩固这一趋势。

我们不能说AI技术（shù）一定会助长（zhǎng）极权和垄断（duàn），但是我（wǒ）们正在看到这样的（de）苗头出现。

普通大众不仅通过在互联网上的各种操作交出（chū）了自己的习（xí）惯偏好和消费数据，而且（qiě）现在还在通过可（kě）穿戴设（shè）备等信息（xī）来获取我（wǒ）们（men）的生（shēng）理指标数据。如果任何一个AI算法（fǎ）系统能够同时拥有这两种数据，并（bìng）且对其（qí）建立起相对应的相关性，那么，这一系统将真正全面获得操纵人心的能（néng）力。

正由于我们人类的任何决（jué）策（cè）可以转化为各种（zhǒng）生理、心理和行为的（de）各种数（shù）据，而我们（men）又想通过AI技术来洞悉（xī）这一（yī）切背后的因果（guǒ）链条（tiáo），那么AI将有极大地可能完成人类的这一（yī）使命，如果往好（hǎo）处走，AI将代替（tì）人（rén）类的智（zhì）力释放出前所未有的（de）生产力，如果往坏处走，AI技（jì）术也将产生无法（fǎ）想象（xiàng）的破坏力（lì）。

比（bǐ）如，在核冬天的威慑之后，AI武器的发展将（jiāng）使得精准杀戮（lù）成为可（kě）能，虽然在一定意义上可以避免大规模的（de）热武器冲（chōng）突，但是每个国家都将在这（zhè）种无孔不入的（de）AI武器或杀手机器人的威胁（xié）下产（chǎn）生（shēng）十足的（de）敌意。如果这些AI武器一旦被极端组（zǔ）织掌（zhǎng）握（wò），更有可（kě）能成为挑起事端的（de）大杀器。再比如更有可能（néng）的一个（gè）趋（qū）势是，AI算法只是代（dài）表了少数特权阶（jiē）层的意志，而大部分人沦为供AI进化的（de）数据（jù）源。

尽管（guǎn）来说，AI直接（jiē）统治人（rén）类（lèi）既无（wú）可能，但AI被（bèi）人类用坏，成为塑造人类不平等的帮凶（xiōng）是极（jí）有可能的。

现在，我们更重要的是，放弃对AI技术客（kè）观中立性的幻想，也要警惕AI算法对于我们决策的强大操纵力（lì），同时（shí）又得（dé）致力于推动人工智能的普惠，才是接下来要做（zuò）的事（shì）情。

对（duì）AI的（de）自（zì）由意（yì）志保留拒（jù）绝的权利

我们这里只是（shì）指（zhǐ）明（míng）了一（yī）个（gè）问（wèn）题：人工智（zhì）能是存（cún）在价（jià）值观的，其价值观的来源并非来自（zì）于突（tū）然的“自我觉醒”，而是从人这里继承（chéng）了相（xiàng）应的价值观，“复刻”了人（rén）的所谓“自由意志（zhì）”。

当AI算法不够强（qiáng）大的时候，其可能继承（chéng）人类的认（rèn）知错误和偏见（jiàn），但当AI算法足（zú）够强大的时候，其也并不会变（biàn）得“客（kè）观中立（lì）”，而（ér）是体现了人类工具理性推（tuī）向极（jí）致（zhì）的价值（zhí）观（guān），那就是更（gèng）集中的（de）权力、更多的财富、不断自我强化（huà）和升级（jí）。

这一价（jià）值观反作用到普（pǔ）通（tōng）的人类个体身上（shàng），可能有两个（gè）结（jié）果，一种（zhǒng）是与AI算（suàn）法协（xié）同进（jìn）化，在智（zhì）识上甚（shèn）至生理上不断升级（jí）自己，成为（wéi）掌控（kòng）AI的（de）发展趋向的超级人（rén）类；一种是（shì）无法理解AI技术运行（háng）逻辑，也没有办法（fǎ）参与自主决策的（de）大众，将自己（jǐ）的生活决策交给算法。

因为人的生物学的进化速度实（shí）在（zài）难以赶上AI计算能力（lì）的增长，人类（lèi）的（de）知识只能以线性循（xún）环的方式一代又一代传授，而AI则是（shì）以指（zhǐ）数级方式累计增长，这就决定了（le）大多数人只（zhī）能交付出（chū）自己（jǐ）的决策机制，而由AI来判（pàn）断我们的各种想（xiǎng）法的成功概率。

而在今天（tiān），这一问题已以种很隐蔽的方式呈现着。正如很（hěn）多人（rén）认为自己要听从（cóng）自己内心的声音（yīn），但是（shì）我（wǒ）们却并不知道（dào）这些内心的（de）需求哪些是我（wǒ）们的“自由意（yì）志”想要的，哪些（xiē）是被各种价（jià）值（zhí）体系所塑造的。而（ér）我（wǒ）们知道AI算法已经开始从每一个（gè）广告推荐、每（měi）一个内容筛选、每一次自拍美（měi）颜、每一次你的（de）行为追踪下，就（jiù）已（yǐ）经开始为你（nǐ）进行需求的植（zhí）入了。

在人（rén）工智能（néng）狂（kuáng）飙突进的这几年当中，我们其实已经（jīng）过分（fèn）站在“AI将造福人类”的宏大叙事当中（zhōng），毕竟我（wǒ）们（men）对于这一新（xīn）型（xíng）技术产业寄予了太多的希望。但是（shì）我们看到现在（zài）针对个人隐私领域上马的AI应用（yòng），正在竭尽所能（néng）地掌握人们的全（quán）方位数据，但（dàn）其实我（wǒ）们并未（wèi）对这一（yī）趋势做好准备（bèi）。

最近（jìn）我们也（yě）注意（yì）到，由于一些（xiē）行（háng）业和场（chǎng）景中（zhōng）人脸识别技术被大量滥用，一些地方的相关部门开始推出整治规（guī）范，要（yào）求拆除这（zhè）些AI设备。未来，这场关于人工智能的应（yīng）用边界博弈的拉（lā）锯战还将（jiāng）一直持续下去。

但未来的长（zhǎng）期（qī）博弈（yì）中，我（wǒ）们哪怕牺牲一（yī）点便利性，也要（yào）在让度自（zì）己的选择（zé）权，交给人工（gōng）智能来处理（lǐ）的时候，保持足够的冷静，同时对AI有拥有（yǒu）“Say No”的力量。