警惕人类的灭绝，而非机器

如果说奇点不只是谷歌上的拓展延伸，那么，奇点到底是什么呢？

在日常用语中，“奇点”（singularity）这个词只出现在无任何恶意的情况下，通常意思是奇怪、怪异和独特。但是，除了这层字面意思，多多少少它还有些数学含义，比如“所有平行线相交的点”，或“一个稳定的变量达到无法测量或无限值的值”。最近，科学家将此类概念集合到一起，形成了一种叫作“技术奇点（Technological Singularity）”的观点，现在这个词用来描述未来某个阶段发生的深刻变化。到那时，机器智力超越人类智力，机器更聪明，而人类更像机器，也有可能人和机器相互结合。

目前，这种观点被大众热切支持。加利福尼亚有一个蓬勃发展的机器智能研究所（之前叫奇点研究所）。该研究所致力于研究包括人工智能安全性在内的各种问题，也就是说，机器的权力越来越大，越来越像人类，我们要寻找不被机器攻击的方法。雷·库兹韦尔（Ray Kurzweil）^[1]，自称未来学家，也是奇点大学（Singularity University）的创办者，他认为到了2045年，机器智力会超越人类智力。相反，自从1956年“人工智能”这个词出现之后，哲学家诺姆·乔姆斯基^[2]一直谨慎地思考人工智能的方方面面。他认为奇点就是个虚构的概念。针对“机器比人类聪明，可能会毁灭人类，我们是否要时刻保持警惕之心”这个问题，他清醒地分析道：

我们的确应该担忧人类的灭绝，但我们忧虑的不应该是机器。我们该担忧的是，人类一直在破坏和平与生存的可能性。我们应该担忧的是最近联合国政府间气候变化专门委员会作出的报告。但是，奇点只是科学幻想小说中才会出现的东西罢了。

我们在讨论机器时，出现了误导倾向；人们总觉得机器就像是《星球大战》里那个可爱的小机器人R2-D2。

机器就是程序。桌子上有一个设备，你将程序置入那个设备之中。设备本身可能除了能压住纸张之外没什么用处，其实它就是一个镇纸……但它可以运行程序。程序本身只是一套理论而已……你问其他任何理论同样的问题，它们会给你什么观点和见解吗？(www.xing528.com)

这番现实主义言论立刻就封锁了铺天盖地的机器被赋予生命的想象。从塞缪尔·巴特勒时代开始，早期有关拟人化机器的论调不分青红皂白，引导人们将想象中的未来机器鼓吹成巨型的，与人类相提并论的存在。乔姆斯基认为，不管机器是拯救我们的天使，还是要超越人类、迫使人类走向灭亡的魔鬼，这整个故事都是由幻想所误导的，分散了我们对人类真正困境的注意力。没有了那些捏造的桥段（他说的），那些有关非人智力的言论即便再怎么危言耸听，再怎么诱人，也是无稽之谈。

而且，有关非人智慧的言论本身也不甚明朗。人们常认为阿兰·图灵是解答机器智慧难题的守护神。然而，他在一篇著名论文中探讨了机器人是否能够思考的问题，他认为这个问题“没什么意义，不值得讨论”。 同样的，乔姆斯基在讨论同样的问题时，一开始就讲道，离开这些戏剧化的意象，人工智能的整体概念处于绝望且朦胧的状态：

非人智力这一术语通常出现在机器编程的过程中……让机器模仿人类行为某些方面的努力，可以理解为一个科学项目。为了更好地理解，我们可以建一个，比如说——为了进一步了解昆虫导航，我们可以建立一个昆虫导航的模型，或者生产出一个有实用性的机器人，用来更好地打扫卫生。这是人工智能技术的两个要点。人工智能发展历程有60多年，却从来没有人类给出过任何有关思想的本质、行为组织方式的见解，当然，这也在我的意料之中。

这确实在意料之中，因为这两个目标无法合并，实际上是相互矛盾。创造有用的工具就意味着要模仿现代人类某些特定行为习惯，不断进行调整，而调整的目的在于提高工具的实用性，而不在于深化对行为的理解。通过模仿创造出的工具的能力取决于现阶段我们对思维运作的模糊理解——实际上我们对思维的运作机制知之甚少——因而，这样的“模仿游戏”并不能提升我们对思维的认知。

因此，尽管开发自动驾驶汽车这类事物很实用，但对心理学研究毫无贡献，也无助于我们去了解使用自动驾驶系统的人，而理解“人”才是我们面对的真正的难题。将人类化的机器和机器化的人类相结合，创造出更具实用性的混合体，这有些痴人说梦，但只是创造新工具，却无法让我们理解这一疯狂的想法。