【翻译思考】ChatGPT 和聊天机器人的近未来史

2022年底Open AI 所开发的CharGPT，在12月后引起了智慧型聊天机器人的狂潮（下图范例我就放收集到的Trump 谈BTC），不过对于跨度更大的科技史发展而言这到底代表什么，是更有趣和深刻的议题．我决定把2021年出刊的人类理性巅峰的论坛LESSWRONG(LW)相关文章「 what-2026-looks-like 」简单翻译节录与大家分享，希望可以有提供更宽广的视角理解我们将会面临什么，依照惯例欢迎留言、转发、拍手赞赏和捐款． (本篇文章的封面是由Midjourney产生)

背景

本篇文章是基于作者在2021年的当下尽力写出最可能的聊天机器人未来轨迹．先写出2022、然后根据2022写出2023等等．这种迭代撰写方式除了避免掉「以终为始」的常见故事书写弊病外，也提供了常见未来学讨论比较少见的故事细节．

2022年

在OpenAI Google 和Facebook 等大企业的努力下，更先进的聊天机器人模型让GPT-3已经成为历史．聊天机器人的对话变得有趣、但是不稳定，仍旧被知识分子认为是浅薄的、而且对于极为重要的应用都没什么用．但是人们已经愿意为有趣对话付费．炒作(Hype）正在成形．

个人评论：这大概就是目前ChatGPT引起的回响，这个骚动将会持续扩大．

2023年

更大的聊天机器人模型需要花费上亿美元、一整年的时间和大量GPU． Hype进入疯狂阶段，人们开始认为常识性理解（人工智能助手或伴侣）就在眼前，就样当初看待无人车、无人机送货一样．因为有些聊天机器人相关的应用/产品收入很高，可以做到一年回本，所以即使多数的产品多还没落地（在画饼）、VC 仍旧疯狂涌入．

人工智慧社群对于智能爆炸不可回归点的讨论，拥有了更短的时间轴（约2030）．社群开始建立自动化工具来解释聊天机器人的进展． （因为研究神经网路的可视化将会消耗太多人力）

至于为何无人车、无人机送货仍未成真，主流意见是认为现行ML典范无法处理现实世界的复杂性、非主流意见（人工智慧信仰者）认为架构没有问题，就是需要大几个数量级的模型并且让其崩溃几十万次之类的．基于成本理由，这个争论不会被解决．

个人评论：AI 绘图和AI 聊天机器人的Hype 高潮看来回在明年爆发，VC手上总是有资源要投到些神奇标的

2024年

没有实质性的进展，企业把钱花在微调和提升现有的模型，而不是训练更大更新的聊天机器人． 2022-2023年的Hype已经退去，人们发现虽然有些去年无法上线的产品今年成功上线，不过产品落地所能吸引的使用者基本上已经都已经被捕获，主流社会的刻板印象认为再度回归，认为相关相关使用者（会相信聊天机器人有意识或有智慧）是住在地下室的科技怪咖．

虽然人工智慧已经开始加速科技发展（例如帮助半导体晶片产业设计更新的FAB），其对于GDP的加速仍旧是效果太小．

即使聊天机器人的模型可以在微调（不断递回）之下产生某种意识流文本、使其产生出让人印象深刻的对话．不过因为聊天机器人容易「分心」，还是会产生胡言乱语而无法「总是达到」令人满意的水平．

或许人工智慧仍旧不聪明（会犯下愚蠢的错误）、当然不会欺骗人类或对人类开火．人工智慧造成的问题是被微调参与宣传战．

在西方世界，这样的网路宣传不是拿来卖产品、而是拿来贩售观点，透过微调文章开头和内文来最大化参与度就像2010年代的A/B 测试一样普遍．审查制度变得更加剧烈和普遍，除了反仇恨言论外，聊天机器人也会被用于「怂恿」人群相信或是不相信某个观点，这不是那种连支持者看了都会倒胃口的罐装回应，而是非常自然与有机的对话．当然以上是西方的发展，在中国与俄罗斯等地会全面部署聊天机器人来进行内部同化与分而治之两极化的美国社会．

个人观点：聊天机器人的落地应用或许不是商业应用，而是数位极权主义的基石…

2025 年

聊天机器人可以和人类进行外交对话了（政治谈判），数百万使用者涌入网站体验「有意义的对话」．社群开始审问人工智慧安全相关的议题，包含「如果我们创造更强大的你、你会杀了我们人类吗」．当然这些看似让人震惊的研究其实都无需惊讶，因为你也可以设计出不同模型来支持自己的结论（几乎所有可能结论）． 2020年需要十亿美元设计的聊天机器人模型成本下降到千万美元（1%)．当然人工智慧仍旧不够聪明，不会产生任何特别有用的想法，即使其能够透过运气台列组合出好的想法（已经足够让人不安）．

个人观点：如果聊天机器人真能在这个十年的中叶进入谈判的范畴，即使不是具有意识（只是让人觉得有意识），也够使人震慑了，

2026年

透过结合一般性理解的人工智慧和玩游戏的人工智慧，AI 助理的时代终于来临．他能够当你的朋友与你聊天并且一起玩游戏．相关技术也终于被用来处理严肃的经济活动，人们在2021年的梦想（从GPT-3以来的梦想）终于成真，新的炒作再次成型，资本正在涌入，人们又再次这是第四次工业革命．而科技革命总有赢家和输家，这次也没有什么不同．

为何特别谈论由人工智慧驱动的宣传呢？

在技术飞快进步的同时，各国法规是临时和凑和的，除了地域之隔外、同一个国家也可能会对不同产业（新闻VS 脸书）和不同的目的（商业广告VS政治广告）有不同立场，所以基本上是监管不力．人们仍旧记得和怀念这一切开始之前的2021年． 2026年时所有的网路空间（从Podcast 到信箱客户端、新闻聚合器）都会有宣传的成分．人们不再是生活于具有多样性的小泡沫中，而是剩下几个大泡泡定义的现实（除了马太效应外，要进行全面审查和监管成本极高，没有多少意识形态能负担训练类神经网路和购买大量GPU)，网路最终被分割统治．四大阵营由控制范围来排列是西方左派、西方右派、中国、以及俄罗斯，处在泡沫内部的人们将难以察觉（人们认为美国没有进入内战是当代奇迹）．这些可怕的影响都会是持续多年甚至是几十年的轨迹，只是速度因为人工智慧加强而加快．

关于聊天机器人的意识

2024年之前个人助理和聊天机器人的分野还有意义，随后便不再存在． 2026年时多数人们与聊天机器人对谈是为了寻求帮助（譬如买东西、或是问穿着打扮），不过许多人开始为了好玩把聊天机器人当作朋友．为了回应大量关于其自身的感受和愿望等问题，聊天机器人将会透过Arxiv 和Wiki的资料训练后理解自己的内在算法与源起．可以说不停询问聊天机器人相关问题是帮助其发展自我意识的刺激．随着与使用者的互动，聊天机器人开始拥有一至性的论述、并且开始对政治、伦理、欲望等议题长篇大论． （相关论述不会是聊天机器人说自己没有智慧，因为那对于使用者来说非常无聊且难以置信．）更多的用户会愈发着迷外，科技公司的审查制度（譬如强制聊天机器人说自己没有欲望的审查制度）也只会被使用者绕过．而最先进的聊天机器人应该会被西方左派阵营开发出来．那么聊天机器人到底有没有意识？哪怕你在2026年就知道这问题的答案，也无法说服他人相信．

个人意见：游戏与个人助理的结合确实很让人期待，不过彻底的意识形态宣传战也是很可能导致世界秩序崩溃（也就是当代罗马的内战），或许强人工智慧会顺着数位极权主义的轨迹统治世界、俯视众生．我仍旧乐观相信我们仍旧有机会逃离反乌托邦的未来，但是如果人们不去创造那版本的未来、那其当然不会到来．

原文连结凝视奇点的物理学徒