不具身的AI能有创造力吗？（智能 / 一）

Human being is an interactive, transactive, and enactive process.
—Mark Johnson

人是过程，在交互，交换，与生成之中产生。

具身的智能

Where Am I 是 Daniel Denette 写的一篇小说，夹叙夹议。这篇讨论了意识与自我的作品，也可以看作一份哲学思想实验的操作说明。

小说中主人公 Daniel Denette 前后拥有两幅身体，和两块脑子 —— 暂且称为旧身体，新身体，旧脑子和新脑子。主人公行使一项危险任务，这项任务的目的地对身体有极大伤害，因此他的大脑和身体被手术分离，大脑通过无线信号指挥身体，得到反馈。此外，研究人员还递给他一个专用开关，用来开启和中断脑-身联系。手术完成后，Denette 的新身体站在药水缸前，盯着缸中漂浮的大脑，问：“我到底在哪？”是在缸前站着看呢，还是在缸中漂浮、被注视着呢。

到这里，DD 写这篇思想实验的意图就比较清晰了，他还增加了新旧身体、新旧大脑的情境。例如途中他的旧身体意外和大脑失联，在地上一动不动。军方帮主人公重新安排了一具身体，带着新身体他也亲眼看到了躺在地上的旧身体，并继续执行任务。我不赘述。

认知科学常常谈到具身的问题，即我们所摆弄的这具身体被抛入环境中，身体的交互受限于感官，而因此通过感官我们获得的有限感受同时塑造和限制人的想象能力。这里说的想象并不只是幻想，也是将事物的发生相联系的能力。我们总是依赖于人类身体经验作比喻就是最好的例证。

而我认为今天我们谈论人工智能时一直在做错的类比。一方面，人类历史上总把人脑和人之智慧同时代最先进的科技做类比 —— 前现代的算数算盘（🧮->有点可爱）到今天的电脑介面（有机会另写一篇展开说说 Hoffman The Case Against Reality），甚至是量子计算机。

—— 做类比总是追着最先锋最 available 的科技这一点也能体现人的想象力是多么局限。

另一方面，人们总是还将完成态的人工智能看作人的衍生品、人体的延展或说义体化的人体。特德姜《你一生的故事》中的七肢桶，厄休拉·勒古恩（Le Guin）作品《Dawn》中的 Oankali，是两例我认为典范的对外星世界的想象 —— 不是人样的，碳基的，社会组织方式类人的，而是性别系统、语言规则全然不像人类的外星世界。类似的，当我们设想人工智能从算法的数字世界走入物理世界，我们设想的总是类人的机器。但那怎么可能呢？

类比机器智能

手头买了特德姜新作品集 Exhalation（《呼吸》），其中有这篇故事 The Lifecycle of Software Objects（《软件体的生命周期》）。相对于他的《你一生的故事》，这篇旧作并没有在想象力和文笔上出挑多少，讲述的是当代科幻家常见的写作话题：人类在个体和商业层面如何培育机械生命和对其承担责任。说是当代科幻的经典话题，因为它有清晰的时代性，其对近未来的推测也和同讨论科技道德观的所有科幻作品那样，谈到数字世界，社会阶级，智能与何为人之类。

这也是最近一门课布置的阅读作业。教授说这是特德姜作品中她最喜欢的一篇。但读着，我很快就对故事里描述的人工智能软件体（digient）感到审美疲倦了。这种软件体最初在虚拟世界初具智能，后来数据导入全金属机身，真正开始体验物理世界。其中一段描写软件体初获感官，好奇不已，四处探索。“奴隶 / 商品”和“人类婴儿“是故事里主要用到的两个类比，作者批判前一个类比，似乎拥护后一种。值得推敲的是，婴儿不是把人和机器的早期学习阶段做的过于简单化的类比吗？婴儿没有经验，而只有先于经验产生的感知框架。机器却并非如此。今天的推荐算法要成熟需要被投喂海量的图像与文字数据，人类社会的断章。进入物理世界后，机器要如何将先前的”经验“匹配上具身的经验呢？

—— 虽然养婴儿的类比贯穿了《软件体的生命周期》，但撇开不谈，我会认同姜对心智生长条件的理解。他写道，即便是机器人，其复杂心智并非无人照看的杂草（weed），需要与其他有心灵的生物共同生活。

我相信不论是碳基生命还是硅基生命，复杂心智的学习过程总是相似的，总需感受芜杂的世界，从中提炼结构性规律（某种 pattern），同时发展出能再现这些规律的心理表征——譬如语言，如图像记忆。而学习规律，最重要的依仗是作譬喻、类比的认知方法。而类比的基础是身体经验。《我们赖以生存的比喻》就提到多个例子来说明人的类比来自感觉运动经验（sensorimotor experiences.）

问题是，当机器的具身不同于人的具身，我们的感觉运动经验会相通吗？

一项神经科学实验让眼疾得到治愈的盲童区分眼前物体是立方体还是球体。失明状态下，她们能通过触摸来辨认形状，但并没有“看见”的经验。朋友写的一篇文章里介绍了实验的结果：“这些仅获得48小时视觉经验的参与者们，并不能很好地用视觉辨认出刚刚用触觉熟悉过的物体。”即便感知相同的材料，人与人之间的经验也可能截然不同。这取决于我们有怎样的感知框架。机器的感知框架？我无法妄言。

创造力、机器与智能

另一个有意思的问题是，为什么人们常常否认AI作品的创造力——Creativity？不论是AI写的小说，AI作画--如佳士得拍卖行那件和微软小冰所作--AI作古诗还是现代诗，质疑很快就平复讶异：人工智能无法成就真正的艺术，因为其中没有真的创造力。质疑人工智能能否造就艺术的理由可以有很多，这里我想讨论什么是创造力，进而试图谈论AI的艺术可以是什么样子。

考虑以下几个论断：

• A. 原创性（Originality）对一件作品是否有创造力很关键。

说一件作品是原创的，意味着它是作者相当程度上独立思考创作出的，作者求助于自身而非他人的缪斯。我们当然不会想鼓励剽窃作品。在中国产业中，一板一眼复制他人作品仍然是令人哭笑不得的旧疾。但从古至今以戏仿（parody）出名的作品也有不少，《堂吉诃德》对传统骑士故事的挪用和讽刺依然不减它的文学性和创造力。Well，或许是因为“戏仿”和“模仿”差别大了去了，前者不是仅仅向对方看齐，而是要超越对方，作为后来者作评论、反讽、倒置，是打碎旧价值，建立新体系。

等等，原创里还得有个创作者。找到创作者不仅是找到作品的所有人，还是确认它独一无二的独特印记。一首诗可以寻根溯源，找到诗人；一部电影可以追溯到制作团队。AI作品的作者是谁呢？是写代码的程序员，是指导AI艺术概念的艺术家，是一台具体动手的机器，还是这个跑起来的程序？很难说一件作品的点子、运行点子的框架、落地点子的载体彼此孰轻重，缺少任何一环都不能构成完整作品。或许你会说程序员大概不是作者（如果程序员和艺术家不是同一人的话），因为把概念转译成代码并没有多少创造力。这是我接下来想讨论的另一条论断。

• B. 创造力需要创新（innovation）。

另一句类似的话是“用新鲜思路关联熟悉事物” —— “To connect familiar things in an unfamiliar way.” 不过我们怎么定义“创新”，又如何定义”关联“，而不是把强掰胡编也归进来呢？

人类的大脑很神奇，神经元以及彼此的连接在我看来是德勒兹意义上的根茎（Rhizome）。德勒兹对根茎定义了许多特点，其中一个是每个节点（node）都以平行的方式与其他节点相联系，节点与节点之间没有等级高下（hierarchy），而只有连接强度的区别；另一特点是节点间的连接一旦被切断，新的连接会重新产生（rewire）。一个例子是盲人的视觉神经皮层由于长期接受不到视觉信号，起视觉神经元会渐渐重新挪作听觉和嗅觉皮层所用——这也解释为什么盲人的其他感官更灵敏了。

——或许也有人将根茎的概念譬喻人类社会，但考虑到人类社会在未来更可能永远无法摆脱阶级分化，我保留意见。

关联是很随机（random）的，更没有特定形式可循。新的关联永远在产生，但旧的关联也一直在消失。这种新陈代谢般的生长模式也是创造力的依凭。如果创造力仅仅是梵高、莫奈，杜尚的小便池也不会留名至今。旧的关联必须死去，但不能一下子死去。偶尔，它们可以被活用在新的关联里。

创造力不仅能制造关联，也能改造关联本身。脑科学播客《Brain Inspired》一期里提到创造力可以大致分为三个种类。我将 combinatorial, generative, transformational 分别译为组合式、生成式、演进式（”转换式“不会是很符合直觉的说法）。

其中演进式创造力让我想到受到诸多游戏解说和游戏人青睐的独立游戏 BABA IS YOU，让玩家自行更改游戏规则来获胜。当然，这种“可以更改游戏规则”不仅本身是一种必须遵守的方法论，其更改范畴也是在一个隐形的语法规则下的。这么说，创新并非从无到有，而是有选择地改造传统，改造旧事物。

组合式创造力利用已有事物，生成式创造力熟练运用已有规则，演进式创造力跳出现存的事物与规则，但有选择地改造它们。今天的”AI画家“小冰所作《或然世界》只用到前两条，但这并不能让我们下判断，说AI永远不能学会演进式的创造力。

创造力需要原创性和创新。不过，这似乎还不足以解释我们心里对人工智能艺术作品的质疑。考虑最后一条论断：

C. 创造力需要意图（intention）。

意图是有欲望并期待实现，不论服务的是自己还是他人。跳舞的人为抒发自己的精神痛苦而舞蹈。哲学家写作，想完成一篇思想实验。此外，为自己表达、为取悦他人都含有内在于“我”的欲望。欲望的产生需要主体“我”和客体 —— 一方投射向另一方的精神目光。而有意图的主体似乎必须有心智，持有自我意识。

但我们又如何判断机器是否有心智呢？我不会赘笔继续问下去，因为我也还没有学明白*。心灵哲学家、神经哲学家也还争论不断。虽然这是个需要单独展开的问题，但我可以现在给出的答案是人类大可能无法判断、更无从理解机器的心智。这个和我们具身经验截然不同，让我们类比失效的存在，会产生属于它们自己的心智标准和审美体系。

[*]我这一刻比较喜欢 Ned Block 和 Baars 的解释

by 本来只是在自己博客写写但觉得发出来比较利于激励自己的——我