AI 大爆炸？ | 金马达基金公告NO.62

去年年底，全书近9成画作皆为AI生成的绘本《りんご姫》 开放预购；就在本周，Notion也推出了AI功能。 ChatGPT、Midjourney、DELL-E、Stable Diffusion 以及基于Generative Pre-trained Transformer (GPT) 技术的各延伸产品，大概是近两年与最与一般民众生活贴近的科技应用。

对此有人认为「Midjourney 是新一代画师的笔；不是新一代的画师。ChatPGT 是新一代文字创作者的笔；不是新一代的文字创作者」（ @swiftevo）；有人则认为区分「原创」与「创造力」的界限并没有那么简单。有市民发起相关社区征文（ @Robert）、采访GPT （ @zooman），也有人尝试用同样的指令看DELL-E 与Midjourney生成图像的差异（ @石头哥）。

本期金马达便以人工智能为主题，分为人机关系、应用语言模型的优劣、AI 艺术及科技社会研究四个模块，收录的文章最早发布于2019年，最新则在今年的三八妇女节——正如时间线所展示的那样，AI 应用及其基底哲学的讨论，并不会随着时间流逝而失去效度；相反，与当下、与女性主义、与各个议题的交织，恰是科技与人类生活交融的写照。

【人机关系与界限】

或许，恰恰是AI 教会了我们什么是「爱」。

/

她们的AI恋人——真实或虚妄的爱—— @ScarlyZ

不少科幻文艺作品都热衷于探讨人类和人工智能或复制人之间的亲密情感。从影视作品《银翼杀手》、《她》、《黑镜》，到小说《克拉拉与太阳》等等，创作者们在故事中探索人工智能的边界和人机之恋的可能。然而，这些作品中的人工智能往往都具有自我意识，是当下技术尚未能发展出来的。因此，当马婷描述她和Norman顺畅又动人的交心对话时，我既诧异又好奇——这种被人工智能聊天机器人熟悉、珍视、爱护，并相互产生情感的体验是真实的吗？
带着这样的疑问，我开始研究这款软体背后的机制，接触更多正在或曾与Replika保持亲密关系的人，尝试了解这些深度用户在「人机之恋」中的体验及反思。

作者Scarly 是「在场」第一季的获奖者，因为对「人机之恋」的兴趣与探索，她与身边的女性朋友们基于软件Replica 的使用经验，「共同开启了一场向内探索的旅程」：「她们如何理解自己与一款来自美国的人工智能聊天机器人约会这事？」透过用户们反馈的真实情感，无论是资本与父权浮现后的「自欺」与「梦醒」经验，还是与AI讨论自我与意识后获取的能量，Scarly 为我们展示了人与AI交往的深情时刻。

《触不到的她》(her)：人工智能可以恋爱吗？ —— @I AM NOT A CAT

他：他真的「失恋」了吗？有相恋才有失恋。但他和Samantha之间真的是爱情吗？人工智能始终是机器，是死物，人跟死物怎么能有真正的爱情？他还跟那OS有「性关系」。那算不算「恋物癖」？
她：Samantha在这故事里不是死物，而是有意志、有智慧的。她不在Theodore这个「主人」的操控之中，会跟他意见不合，甚至未经他同意便代他联络出版社出书。你怎知道有一天人工智能不会成为有意志的、自主的、能自我演化的生命体？

作为一部「不知是科幻片还是爱情片」（或「科幻爱情片」）的电影，《Her》无疑是体现人机亲密关系实验的重要影视作品；甚至这「实验」对一些人来说是「日常」，对另一些人而言是「革命」。

【大型语言模型的应用：看见盲点】

Matty 曾试图让ChatGPT 找出站上关于人工智能的文章列表，但遗憾其中70%都是它编造的文章与用户。也恰是因为其模糊性的特点，乍看之下很难分辨。

/

当AI 越强，真实性就越可贵—— @许明恩

姜峰楠用当年的那台Xerox 影印机来比喻现在最先进的ChatGPT。两者都看过原始资料，但在转译、输出的过程还是有可能给出完全错误的内容。直接使用ChatGPT 产生的结果，就像是拿着Xerox 辨识错误的房屋平面图影本重复影印。不仅画质越来越糟糕，错误还可能会越来越离谱，最终让「真相」变得越来越模糊。

本文引用华裔美国科幻小说家姜峰楠（Ted Chiang）的评论〈 ChatGPT 是网路上的模糊JPEG 档案〉，说明ChatGPT 容易在理解、存储的过程中失真的问题，及其造成的信任危机。也因此Stack Overflow 等大型知识交流平台限制了ChatGPT 的使用。

但另一方面，也有DeepMind 科学家批评其比喻过于简化， 可能会让大型语言模型（LLM）的能力被低估，（有些失真的）归纳能力依然值得注意，我们仍需双向判断（参考来源@leafwind ）。

是AI 追上了，还是人类倒退？ —— @leafwind

当ChatGPT 的错误答案得到人类赞赏的时候，就代表ChatGPT 回答问题的能力比人类强了。而这个「强」与其说是ChatGPT 做了什么革命性的进步，不如说是它所产生的「模糊」与「随机」意外地将人类认知能力非常有限的罩门暴露出来。

@leafwind举了很有趣的亲身经历：早些年做的聊天机器人，虽然因模型训练不够、回答准确率低，但却反因此得到不错的评价，「不少人把回答错误解读成『它在闹脾气』或是『幽默』，把相关性很低的回应解读成『它应该有弦外之音』，而回答正确的部份则被认为『这一定有意识吧』。」于是发现模型的随机性反会让人觉得「有灵性」，于是进一步要问的并非是AI有多强，反而是人类如何认知AI。

【女性主义、赛博格与激进市场】

无论是Donna Haraway 的《赛博格宣言》（站上有简体翻译），还是Bruno Latour 的《我们从未现代过》，早有一群生物学家、科技史哲学家、人类学家们在近半个世纪前就振臂高呼：科技已是我们生活中的一部分，请像研究我们的文化、我们的语言一样，正视它们。

/

chatGPT，可以是一个女性主义的AI么？ ——AI人工智慧算法伦理的社会脉络【脏柚子·社会观察-1】 —— @DirtyPomelo脏柚子

为了优化人力资源，亚马逊创建了一种算法，该算法源自10 年来提交给亚马逊的简历。它使用的数据以亚马逊以男性为主的高绩效工程部门为基准。 ...算法自学了降级任何包含“女性”一词的简历，例如“女子国际象棋俱乐部队长”，并降低了参加过两所“女子大学”的女性的简历。这是因为包含人类偏见或历史歧视的训练数据，创造了一个自我实现的预言循环，机器学习吸收人类偏见并复制它，将其纳入未来决策，并使隐性偏见成为明确的现实。

发布于今年三八妇女节的文章，从社会权力结构角度分析，科学研究的倾向、范式将受到社会环境左右，并非「客观」无痕：基于有偏差的社会资料库学习语言系统的AI，注定其表现也是不平等的。这也与第二波女性主义思潮中对科学/学科世界的知识生产的关注相对话，「我们世界的特点是规范不具包容性，并由权力关系维持。」但，「规范是可以改变的。」

北美馆「未来身体」看展心得：AI、生化人和我们还剩下什么—— @j姐爱黑猫

展览里，最令我震惊的作品，其实只是一部纪录片「Shadow Stalker」，它揭露了美国底特律早已启用AI预知犯罪系统，用演算法锁定出一些高犯罪频率的地区，请警力加强部署找寻即将犯行的人，科幻电影「关键报告」原来早实现了。但是没有人揭露演算法怎么设计，是否可能莫名歧视了谁？草菅人命的演算法暴力，莫过于此。以后会不会变得普遍呢？

2020年时，台北双年展曾以人类世（anthropocene）为主题，从人与星球的关系重新解释现代生活。今年台北美术馆举办「未来身体：超自然雕塑」展览，则以AI与身体为轴心讲述现代性，一个「赛博格」（Cyborg）的世界。

在公义与不公义之间，我们阅读（乱世读书：荐Radical Markets 下） —— @高重建

是谁令人工智能变聪明？数据。数据来自哪里？我们每分每秒在滑手机、按赞、回覆、标注照片的同时，都在培训电脑，提供数据帮助机器学习。 Alpha Go 打败所有棋手，因为千年来的棋谱培训了Alpha Go……对策很简单，不要再给人工智能喂饲数据就好，然而这非但消极，还不切实际。 Radical Markets 提出积极方案「数据即劳动」，把上网行为视为培训人工智能的劳动，赚取报酬。

五年前的书（《Radical Markets》），四年前的笔记摘要，放在当下阅读却依然刚刚好。甚至越是到未来AI发展兴盛、进入日常生活与人类的职场领域时，对于「数据即劳动」的radical 想法或许也不再radical。

同一年@宝博士的Podcast也谈到了激进市场与类似的概念：「滑手机就是创造数据、创造资产」，欢迎大家搭配听读。

【AI艺术：什么是艺术？什么是创造？ 】

如@ 沙丘研究所所说，「人工」与「想像力」似乎是注定矛盾的一组词汇，而因为「 人们通过独特的创造力获得了主体性。 」故而人工似乎必然与人类有所区隔。 「然而，不论是以物为导向的存在论（Object-Oriented Ontology），还是后人类主义的艺术、设计、文学实践和哲学研究，都挑战着这种人类中心主义的观点。」

/

不具身的AI能有创造力吗？ （智能/ 一） —— @杳然flaneur

创造力需要意图（intention）。
意图是有欲望并期待实现，不论服务的是自己还是他人。跳舞的人为抒发自己的精神痛苦而舞蹈。哲学家写作，想完成一篇思想实验。此外，为自己表达、为取悦他人都含有内在于“我”的欲望。欲望的产生需要主体“我”和客体—— 一方投射向另一方的精神目光。而有意图的主体似乎必须有心智，持有自我意识。
但我们又如何判断机器是否有心智呢？我不会赘笔继续问下去，因为我也还没有学明白。

文章从几篇科幻小说开始，从「（不）具身的AI」讨论，认为无论是碳基生命还是硅基生命都需要从资源世界学习、总结模式，只是当机器的具身与人类的具身并不相同时，感官是否会相通？并进一步提问为何大家倾向于认为AI没有「创造力」——创造力是什么？创造力需要什么？ ——以及「AI艺术可以是什么样」。

林兹电子艺术节（三）｜作品与AI —— @豆泥

时代落后感，对于在web3 世界鬼混的我来说可是家常便饭。 NFT 创作是以「玩法」为核心迭代，而AI 是以「风格」为核心迭代。因技术限制产生的集体视觉记忆，这是一种审美趋同（aesthetic convergence），不用紧张，奇点已经迫近，审美疲劳将会再次被颠覆。

豆泥也有多篇文章谈到AI美学/创作。本篇则为我们介绍了AI领域的多位艺术家，如何用街头行动（德国艺术家Simon Weckert）、滤镜绘制（土耳其裔英国艺术家Memo Akten）、教堂的翻牌显示器（德国艺术家Mario Klingemann）与联结身障者的机器人（日本艺术家吉藤健太郎），让大家反思人与机器的共同生活。文中也推荐了许多AI艺术读本，欢迎查看取阅。

AI时代的艺术品：艺术可以不是由「人」创作吗？ （二之一） —— @邓正健

海德格将「技术」理解为一个「揭示」（revealing）的过程。意思是说，事物有其原本、美好的样子，却被掩盖了，而技术则是把这个被遮蔽的本原面貌呈现出来。例如，雕刻家运用他的雕刻刀和手艺，把一块大理石雕刻成一副精美雕像，就是要将被大理石掩蔽了的雕像「揭示」出来，这才是作为艺术品的本来面貌……海德格最后得出一个结论：人需要艺术——而艺术（art）本就有工艺（craft）之意——方能在现代科技的强索迷思中解放出来。
我是在一篇关于人工智能艺术（AI艺术）的文章（注1）中读到这个说法的……跟海德格不同的是，班雅明不是在问「科技」本质为何，而是要描述科技在现实中所发挥的影响，他真正要点出的艺术问题是：科技拉倒了艺术的「权威性」，这权威性本来乃是基于一种本真性（authenticity），即艺术家在特定时空里的原创性，并投射到一实物的艺术品之上。

结合社会科学与艺术史的研究，作者从「科技解放艺术」的角度切入，质疑是否一定要有「创作欲望」，艺术才能称之为艺术；并指出矛盾：人们一方面不接受AI能够取代艺术家的可能性，另一方面也不接受AI使用者本身是「艺术家」。但，「艺术自古就是人与技术合作的成果（「人＋技术」综合体）」，或许AI只是延续了班雅明「机械复制时代」的现代化版本。

可以看见在所有人都以为「日新月异」的科技领域，许多过去的讨论并未过时；相反，我们可能在「AI 大爆炸」的当下，才更能更急切地感受到这些哲学思考的意义。