禁止制造有思维能力的机器：探讨道德边界

我在此前提到过，实用动机才是人类对于人工智能的主要兴趣所在。单是打造拥有思维能力的机器这一理念就令我们无限神往了。但是，目前存在的这些能以仿真方式与人类互动的机器也让我们意识到，人类欣然接受的并不是真正拥有思维能力的机器，而是装载着人造大脑等廉价替代物的产品。顾客无意将充气娃娃推到荧幕前，让它们接受图灵测试。而充气娃娃的制造商则笃信人类的“超敏生物探测器”会淡化充气娃娃的机械特征。

我们认为，在人工智能领域，相较图灵的哲学动机而言，实用动机的重要性要更为突出。这倒不是说，当下无人尝试打造一台具有思考与感知能力的机器。苹果和亚马逊或许不以为意，但美国某些顶尖大学中的才华横溢的学者却是严阵以待，并准备兴致勃勃地迎接来自图灵的挑战。他们想要打造出拥有思维能力的机器。我认为，对于人类思维能力的认知，他们的眼界不能狭隘地局限在通过图灵测试这个层次上。在本章的最后，我要提出反对此项研究的道德层面的思考。在道德高度上，我们有充分理由对是否真要实现图灵的理想——打造拥有思维能力的人造生命体保持谨慎。我们应当叫停人工智能领域中的业余爱好项目，禁止学界构建拥有与人类相似的思维能力的机器。

从道德角度而言，成就人类重要性的品质究竟是什么呢？是我们拥有思维能力。我们拥有七情六欲，因而会悲伤、痛苦。我们擅长理性思考，因此有能力布局谋划，但我们的计策可能也会被别人识破。在与彼此的互动中，我们会竭尽全力地去规避痛苦，尊重每个人的计划、方案。假设我们真的造出与人类一样拥有思维能力的机器，那么，这台机器也应当像我们一样，享有道德权利。

当你决定让一种在道德上很重要的生命体从你手中诞生时，你就会想要去满足它的一切需求。但是，实用动机与道德准则毫无关联。出现功能障碍的机器学习者或许会影响已存在的生命体，但我们却不会为了要弄明白机器要履行怎样的特定责任而伤脑筋。我们不认为机器学习者会拥有七情六欲。它能够在海量数据中甄别既定模式凭借的并不是通过理性思考形成的计划与方案。如果我们对最新打造的执行“抗癌X计划”的智能机器不太满意，大不了拆掉它就好，根本不用担心对它有道德上的亏欠。我们对待智能机器的方式与当初对待“深蓝”的方式一模一样。“深蓝”就是那台IBM公司生产的，在1997年击败国际象棋冠军加里·卡斯帕罗夫的计算机。曾经构成“深蓝”的众多齿条的其中之一现在正一动不动地躺在位于美国华盛顿特区的美国国家历史博物馆中，被陈列在信息时代的展厅里。从来没有人想过让“深蓝”以另一种方式功成身退——安顿好它的晚年生活，让它继续闲适地下象棋，不再饱受事业如日中天之时的压力困扰，并以此来答谢它所做出的卓越贡献。然而，我们丝毫不会认为我们没有选择这么做有什么不对。

但是对于图灵期望打造的这类人造生命体，我们的态度和做法就应当审慎得多。像人类一样拥有思维能力的生命体在道德上也很重要。只有在假设自己能够满足人造生命体需求的基础上，我们才能迈出下一步。这是肩负道德责任的父母对于子女应当有的态度。翘首盼望第一个孩子降生的父母通常都幻想着自己能够迎难而上，满足这些由他们一手带到人世间的宝贝的所有需要。这些父母会汲取丰富的知识，学习如何让孩子快乐成长。遗憾的是，有些父母对此类知识熟视无睹，但这些知识无疑是存在并可以为他们所用的。可是，当我们谈及人工智能领域的哲学动机的核心关注点——实验生命体时，我们并没有十足的信心。(https://www.xing528.com)

打个比方吧，鉴于我们目前已经识别了可以影响人类智商的基因组序列，我们就不禁好奇，是否可以通过基因编辑技术修改人类胚胎中的相关基因序列，以显著优化人类的健康状态。这些实验或许包括要额外添加被认为能影响人类智商的几组基因序列。诚然，经过合理编辑的基因也许能够帮助我们诞下更聪明、更快乐的孩子。但是，在着手进行这类实验之前，我们却退缩了，而我们的退缩也完全在情理之中。因为只有在能够确定这类实验不会造成悲剧和痛苦的前提下，我们才会肩负起打造实验人类的重担。在举手赞成此类实验之前，我们会要求进行大量的体外实验与动物实验，而不会仅满足于听信基因工程师信誓旦旦的许诺——一旦实验成功，他们便会倾尽一切力量保证他们所创造的孩子一生平安喜乐。对我们而言，采用类似生物进化中物竞天择的方式来对待新型人类——对新型人类施以随机性的改变并通过自然选择淘汰掉失败的产物，这种做法从道德角度上看是令人难以接受的。我们不能在明知取得彻底成功之前，实验会造成数代基因改良失败者的悲剧和痛苦的情况下进行实验。同样，对于第一代具有感知能力的机器，我们也应当慎之又慎。

对于图灵立志要打造的这种生命体，我们的态度应当与对待那些意识形态低级的人造仿真生命体的态度截然不同，例如，那些意识等级与蟑螂无异的人造机器。我们要知道实验性质的人造蟑螂在问世之后或许会遭遇坎坷，但与这些负面体验相伴的道德意义却不值一提。就算是不慎溜进人工智能研究实验室的蟑螂被消灭得干干净净，可能也很少有人在意对于蟑螂而言被赶尽杀绝是什么滋味。同样，试图打造人造蟑螂的研究者在处理他们的实验失败品时也能面不改色。但与低端人造生命体相比，人工智能研究者力争实现图灵的构想，打造像人类一样拥有思维能力的人造生命体，这种做法将会为人造生命体带来的痛苦则完全属于另外一个量级。

有一种方法能让我们在完全接纳人工智能的前提下规避这类道德代价，那就是将实验范畴限定为制造无思维能力的脑力工作机器。