特德·姜为什么不惧怕人工智能

根据2021年3月30日The Ezra Klein Show对Ted Chiang的采访文字稿翻译整理，对原文有少量删减。

技术与魔法，科学与宗教

阿瑟·克拉克有句名言“在任何一项足够先进的技术和魔法之间，我们无法做出区分”。你对此不太同意，为什么？

当人们引用这句话时，他们大多在探讨奇妙的现象。技术的一个特点在于它终将变得唾手可得， 而魔法注定永远不会被广泛拥有。魔法存在于人的体内，它被用来区分有魔法的人和没有魔法的人。这是一种对宇宙间事物运行规律的前现代理解，我们如今已经抛弃了这种观点。不过很多人依然怀念这种看待事物的方式，因为我们愿意相信任何事的发生都是有原因的，我们相信你的遭遇与你的所作所为有某种联系。

你曾经说过科学史的一个关键节点是化学这门学科的产生和炼金术的没落。这个节点为何重要？

人们经常把炼金术与铅被转化为金子联系起来。但是对于许多文艺复兴时期的炼金术士来说，炼金的主要目的不是创造财富，而是净化灵魂。铅被转化为金子只是随之产生的一个外在变化。他们认为实践者的意图和精神本质是化学反应中不可或缺的要素，可是后来我们发现事实并非如此。于是，炼金术中忽视精神层面的部分演变成了化学，而其中依赖精神层面的部分被证明是错误的。所以从某种角度来说，从炼金术到化学的过渡证明了宇宙的本质是客观的。

在你看来，试图认识宇宙的科学家与试图通过事物运行规律来认识上帝的宗教人士之间有何区别？

我认为也许科学家与工程师之间的区别大于科学家与宗教人士之间的区别。大体上说，工程师感兴趣的是解决实际问题，这与科学家的目的十分不同。我认为科学家与宗教人士所关注的东西非常类似。很多文艺复兴时期的科学家都是虔诚的教徒，他们不认为两者之间有任何冲突。对他们来说，认识世界就是通过理解上帝的创造来更好地认识上帝。理解世间万物的规律后所感受到的惊愕与宗教式的敬畏是十分相似的。我认为宗教和科学不该被看成完全对立的两种概念。有人认为科学令宇宙变得不再奇妙，我认为科学使宇宙变得更为奇妙。

你曾经比较过科幻文学和奇幻文学，你认为科幻文学帮助我们认真思考理念可能引发的后果，奇幻文学则擅长把隐喻变成文字。你如何理解两者之间的差别？

要区分推想小说（Speculative fiction）和奇幻小说（Fantasy）可以问这样一个问题：作者对推想的成分是从字面意义上感兴趣，从隐喻层面感兴趣，还是两者兼有？比如，光谱的一端是卡夫卡。《变形记》中萨姆莎变成虫子，这几乎完全是一个隐喻，它用来指代人的异化。光谱的另一端是金‧史丹利‧罗宾逊。当他写改造火星的时候，火星不是用来指代任何其他事物的。大部分推想小说和奇幻小说介于两者之间。以魔法举例来说，当奇幻小说中写某个人拥有魔法时，魔法指代的是这个人的特殊性。魔法是一种将人物特殊性外化的方式。

超级英雄

你如何看待超级英雄在当今文化中所占的中心地位？

我理解超级英雄故事的魅力，但是我认为它有两个问题。首先，这类故事从根本上是反平等主义的，因为超级英雄永远高居他人之上。我认为这显然是一个问题。其次，我们要看超能力是如何被使用的。我一直很感兴趣的一个问题是，一个故事是关于维持现状的还是关于推翻现状的？大部分超级英雄故事总是关于维持现状的，超级英雄从不与国家造成的不公正对抗。在发达国家，我们有理由认为国家造成的社会不公比犯罪造成的社会不公更严重。我们如今面对着悬殊的贫富差距，以及系统性的种族主义和警察暴力，但是超级英雄总是在试图维护这些现状。这类故事将暴力合法化，并让人们服从权威。超级英雄故事总是反平等主义的，但是这类故事不一定非得维持现状。你可以讲述一个超级英雄不断反抗权力的故事，但是这样的故事十分罕见。

如果让你写一个关于推翻现状的超级英雄故事，你会如何去写？

我不清楚这样一个故事应该如何去写。维护现状的故事有一个好处是你可以不断编写续集，因为故事从开头到结尾几乎就是回到原点。推翻现状的故事则很难写续集，这对于媒体巨头比较麻烦。另一个原因是漫威和DC希望保持一种连续性。你可以写超级英雄对抗政府的故事。从理论上来说，蝙蝠侠可以不断与政府为敌。但是从媒体公司的角度来看，这就变成了一个关于恐怖分子的电影系列。这并不是他们愿意做的。

所以是否就是说超能力并不是技术，而是魔法？还有一个问题在于，超级英雄推翻现状之后就成了统治者。但是统治的合法性建立在对于民意的代表之上。编写超级英雄推翻现状的故事的一个困难在于如何代表民意。你对此如何理解？

是的，超能力就是魔法。即使某种超能力表面上看起来是一种技术，它与现实中的技术其实并不相同。我们有大量战斗机，没理由只有一个钢铁侠。几乎所有超级英雄都表现得类似于拥有魔法的人，因为超能力只存在于一个人身上，不可能被广泛拥有。至于什么才是更好的治理体系，这的确是一个难题。我们不妨看看现实世界中为我们带来巨大变革的英雄人物，比如马丁·路德·金。他是一个没有超能力的普通人，却推动社会取得了非常大的改变。但是，这类故事不够戏剧化，它缺乏清晰可见的胜利和令人满意的结局。编写这样一个故事时，我们会碰到你提出的合法性问题。我们不知道如何讲述这类故事。

预知未来与自由意志

你写的几个故事中都有预知未来的情节。如果能够预知未来，你会怎么做？

（笑）我不知道，我想没有人能知道。我认为人脑在预先知道未来的情况下是无法正常运转的。说明一下，我相信自由意志是存在的。我不希望我的故事被解读为在论证人类没有自由意志。我写的一些故事描述的是预知未来的能力会给你造成什么影响。在现实世界中这样的事不可能发生，但是对我来说这是一个很有意思的哲学问题。在这种情况下，调和逻辑一致性与个人意志之间的矛盾会非常非常困难。我不认为这个问题有很好的解决方案。

如果你可以确定地知道自己将在哪一天死去，你会希望知道吗？

（笑）我应该会。

真的吗？在任何情况下我都不会想知道。

这似乎可以帮你做一些准备。我觉得对关于死亡的信息了解越多，它和你意志间的冲突就越激烈，你的大脑就越无法正常运转。但是少量信息对我们可能是有帮助的。

我觉得对这个问题理性的回答应该是希望知道。但是如果真的知道自己将在哪一天死去，我也许会无比焦虑以至于无法正常生活。

我想任何人都不会觉得预先知道自己的死期是一件容易的事。但是现实中确实有一些人知道自己将在短期内死去。这很困难，但是大部分情况下人们还是能够面对这个现实的。

我问一个关于自由意志的问题。假如一个人幼年因为环境污染摄入了过度的铅，导致他对于情绪的控制力低于常人。再假设我们可以选择以愤怒或者饶恕来回应某种挑衅，他因为难以控制情绪而选择以愤怒回应。与一个身体健康的人相比，他做出这个选择的过程是自由的吗？

自由意志是一个光谱，不是非黑即白的。同一个人在不同情境下依然可能面对不同程度的约束和强迫，这些因素都会限制他的自由意志。所以，一个幼年摄入过度铅的人和一个健康的人相比少一些自由。但是与一只狗或一个婴儿相比，他拥有更多的自由。自由意志并不是绝对而不受限的。我们能够利用已知的信息来调整自己的行为，这才是真正的自由意志。

人工智能

我们如今投入巨额经费用以开发人工智能，你觉得什么时候会产生能够为自己行为负责的计算机程序？

这件事会在何时发生我们难以预测，但是它距离现在还非常遥远。至于我们是否会制造出可以作为道德主体（moral agent）的机器，我想这个问题可以从三个层面来考虑：一. 可不可能？二. 会不会？三. 应不应该？一. 我认为我们完全有可能制造出可以作为道德主体的机器。从某种意义上来说，人类是一种复杂的机器，人类同时也是道德主体。这说明具有道德主体性的机器从物理上是可以实现的，不过达到这个目标可能还需要很长时间。二. 十到十五年前，我认为我们应该不会去制造这样的机器，因为这么做带来的麻烦远多于它创造的价值。然而，如今的富豪一旦心血来潮就愿意为各种项目投入巨资。所以，说不定将来会有某位富豪决定出钱开发拥有意识和道德主体性的机器。但是，目前最大的几个人工智能开发项目都没有朝这个方向发展。三. 我认为我们不应该制造具有道德主体性的机器。因为远在机器获得道德主体性之前，它们会先获得对痛苦的感知能力。一个实体越接近于道德主体，我们越应该尽量避免给它带来痛苦。但是在创造具备意识和道德主体性机器的过程中，我们不可避免地将会给机器造成巨大痛苦。我觉得这显然是一个坏主意。

但是这些机器不是同时也能感知快乐吗？如果我们能够廉价地制造出大量可以过上幸福生活的机器，这么做难道不就几乎成了一种道德义务吗？

我觉得给机器造成痛苦远比给它们创造幸福充实的生活来的容易。因为人工智能在发展初期会与普通软件类似而完全不像一种生命体。于是，我们会以非常糟糕的方式对待它们。我们给于动物的法律保护比较少，所以动物在现代社会中遭受了大量痛苦。很多动物深得人们的喜爱，然而它们经历着巨大的痛苦。我们对于软件没有同样的感情，所以我们对待软件只会比对待动物更加糟糕。

尤瓦尔·赫拉利认为，人工智能将会以人类对待动物的方式对待人类。如你所说，我们对待动物的方式无比糟糕。但是我并未想过也许人类会以对待动物的方式对待人工智能。这真是残酷啊。

确实很残酷，但我认为这是最有可能发生的情况。尤瓦尔·赫拉利的观点假设人工智能会从普通软件直接发展出超级智能和意志。但是，我认为人工智能的发展是一个循序渐进的过程。现在的软件在智能上还不及变形虫，以后我们会发展出与变形虫同等智能的软件，然后是与蚂蚁同等智能的软件，然后与老鼠同等智能，与狗同等智能，与黑猩猩同等智能，如此一路发展下去。在这样一个发展过程中，人类会成为施暴者。

有不少人担心人工智能将会毁灭人类。你认为这种观点反映了什么？

我倾向于认为大多数对于人工智能和技术的恐惧可以理解为对于资本主义的恐惧。资本主义和技术已经被紧密地联结在一起，以至于两者难以被区分。我们试想一下，如果全世界都像丹麦一样拥有全民医保、免费的大学和全民基本收入，你对于新技术的恐惧还会剩下多少呢？我想应该比我们现在少很多。在美国式的资本主义社会中，公司把技术视为提高利润的手段，结果导致人们失业。这才是我们恐惧的根源。科技本身并不必然导致失业，是资本主义对低成本和利润的追求导致了失业。我认为在很多对于技术革新引发失业的讨论中有一个未经审视的假设，认为资本主义会永远存在下去，我们不可能逃脱资本主义的掌控。我希望我们可以在抛开资本主义这个框架之后再来评估技术的利与弊。

在《大寂静》中，你通过鹦鹉的口吻说物种的灭绝不是因为人类存心作恶，而是因为人类没有注意。当人工智能的运算能力超过人类，我们会不会成为阻碍人工智能实现目标的绊脚石，以至于像故事中的鹦鹉一样被灭绝？

我还是认为有这种想法是因为我们已经彻底将资本主义的世界观内化了，这使我们总以一种最优化问题的视角看世界。因此，我们才会如此担心人工智能引发的世界末日。

如果我们在火星上发现一种火星鹦鹉，我们对待它们的方式会和对待地球上的鹦鹉不同吗？

我们应该会非常尊重它们，因为这样做不需付出任何代价。以同样的态度对待地球上的动物则需要我们付出巨大的代价。我们不愿意为了善待动物而改变生活方式。我知道你是一位素食主义者，你意识到了动物在现代社会中遭受的残害。我自己依然吃肉。我只能说这是我的个人偏好，除此之外我无法给出其他的辩护。一个人同情心涵盖的范围越广，平衡个人利益和其他生物的利益就越难。

推荐书目

宗教作品：

“Pilgrim at Tinker Creek” by Annie Dillard

关于人工智能或者广义的智能的作品：

“Creation” by Steve Grand

“On the Measure of Intelligence” by Francois Chollet

短篇小说集：

“CivilWarLand in Bad Decline” by George Saunders

“A Visit from the Goon Squad” by Jennifer Egan

世界建构最让你着迷的电影或小说：

“Royal Space Force: The Wings of Honneamise”

最近读过的小说：

“On Fragile Waves” by Lily Yu

游戏：

Control

Return of the Obra Dinn