我不害怕人工智能，我害怕那些害怕人工智能的人。
这是 1960 年代。一位心理学家盯着他的病人——一个秃顶的中年工头手里拿着一支烟，在他周围有一圈烟雾，就像迷幻之旅的光环。心理学家举着一张白色的抽认卡，上面沾了墨渍，一个模糊的黑色喷点，然后问他的病人看到了什么。他的想法是，他的病人不愿意或不能够表达他的感受、他的思想和他的动机，而人在描述模棱两可的东西时可能会无意中透露他内心的一部分。工头看到的不是一个毫无特色的旋转，或者污点。他看到一个男人和女人做爱，也许是暴力的。他看到一个母亲抱着她的孩子。他看到了可怕的谋杀。虽然这些对墨迹的描述揭示的东西很少，但它们透露了描述它们的人的大量信息，因为当面对一个难以理解的抽象时，他把自己投射到了暧昧的东西上。
让我们从人工智能的角度来看待这个问题。我说的不是自动驾驶汽车，也不是指在 Gmail 上为壁纸和漂亮的皮靴提供广告的算法。我不是在谈论我们称之为人工智能的东西，那些东西为的是在沙山路上从迷茫的风险投资家手中筹集资金。我说的是一般的人工智能，它是一台主要是为了生活而想要东西的电脑。我说的是创造一个有意识的机器，让它变得更聪明。从这里开始，思想实验就像这样运行：意识机器确实让自己变得更聪明，一旦它变得更聪明，它就学会了如何让自己变得更智能，这是很好的衡量标准。机器变得越智能，这种模式重复的速度越快，机器的智能就开始成倍地增长。通过这种方式，一个在周二早上生产的有意识的人工智能可能比周三下午出生的最聪明的人聪明两倍，在周五之前无所不能。这就是我们如何发明创造神的东西。在书呆子传说中，它被称为奇点。这个问题——对于一个不再处于知识食物链顶端的人来说，唯一可能重要的问题是，指数型智能想要什么？传统观点：它极想谋杀你。
科技行业的领导者们频繁地描述反乌托邦式的超级智能，好莱坞在《终结者》等电影中也曾有过这样的描述，还有《机械姬》，甚至是《复仇者联盟》。“愤怒的神 AI”是一个被告知的故事：我们建立了思考机器，它在各个方面都超越了我们的能力，它以各种各样的理由摧毁我们。也许它把我们看作是一种威胁。也许它根本就看不到我们——人类，一种一次性的昆虫种族。当然，有很多争论是反对目前普遍存在的人工智能的“天启”概念的。我自己也曾在《接下来的“解剖学”》中质疑过这种反乌托邦式的论点的逻辑。但是我们的这里主题与其说是关于意识机器的本质，不如说是我们谈论这个主题的方式，以及它的意义。首先，考虑到文化中描述的大多数人工智能看起来都是很人类的，而在技术现实中没有任何根据。那么，奇点的真正范围几乎是不可能预测的，这就引出了一个问题：这些关于广义不可知的观点从何而来？
在试图理解假想的上帝般的智力的假设动机方面，有一个明显的困难。对于你深爱的拉布拉多犬来说，你是一种有着近乎深不可测的动机的巨大魔法。你从无生命的物质中召唤出光和声音，用愤怒的金属在大街上翱翔，从你的手中能射出火焰！由于狗的智力与人的智力之间存在巨大差异，所以拉布拉多犬的人类概念被扭曲了。让我们把这个差异命名为“x”。现在，当我们试图理解有史以来最聪明的人类和奇点诞生的假想的神一样的智慧之间的区别时，我们可以把我们在智力上的差异设定在一个保守的“1000x”上。
一个人是如何开始设想这样一个聪明的人的呢？
在这里，我们接近我们不可思议的抽象，以及我们的机器人罗夏测试。但在当代版的著名心理学提示中，我们所观察到的并不是完全模糊的。我们试图想象一个被放大的心灵。在这里，我们每个人都有一个特别相关的数据点——我们自己的。在试图想象被放大的智力时，我们很自然地想象自己的智力被放大了。在想象这种放大的智力的动机时，我们自然地想象自己。如果，当你试图想象一个拥有机器智能的未来时，你会想到一个怪物。你可能根本就不害怕外星人。你害怕和你一样的东西。你会用无限的力量做什么？
心理学预测似乎在一般人工智能以外的几种情况下都有效。在科技行业，“精英统治”的概念现在备受争议。你的生命中有多少是由运气决定的，偶然的机会有多少？这里我们无法给出确定的答案，但是有没有更好的罗夏测试把高成就者和那些被给予东西的人区分开来？与人性有关的问题几乎是开放的自我反省。我们基本上是好的，除了一些例外，或者是人类基本上是野兽，动物的本性几乎没有被一系列我们告诉自己的故事所包含——法律，信仰，社会。心灵的内部运作不能被完全共享，也不能被一个中立派观察到。因此，我们现在不可能知道一般的人的内部工作方式。但我们会试图了解自己。因此，面对关于智力的巨大抽象，我们举起一面镜子。
并不是所有害怕人工智能的人都会对他人造成伤害。有很多人根本没有深入思考这些问题。他们向邻居寻求线索，让他们知道该怎么想，而且也不乏愿意告诉他们的人。毕竟，媒体有广告要卖，而且从历史上看，他们在用恐怖故事来做这件事上取得了巨大的成功。但是，当我们试图理解那些对这些问题有深入思考的人时——比如一个有深度的剧本，比如，一本书，或者一个公司——墨迹是值得我们考虑的。
【数字叙事 原作：Michael Solana；编译：Lighting】
