结绳丨2月:ChatGPT回答不了“胡鑫宇”(2023年,总第8期)
你正看到的文章,还不是ChatGPT写的。
2月,这个聊天机器人在国内俨然成为避之不及的话题。接连好几天,我都不得不面对几乎涵盖各个领域“对话ChatGPT”式内容的狂轰乱炸。
意料之中,它们大都谈不上有趣,仅为了叫受众徒增惶恐。以文章创作为例,宣扬ChatGPT带来“三分钟成稿”此类“革命”场景的大有人在,无数记者、分析师似乎只剩下岗这一条路可走。
我们已经站在划时代的边缘了吗?老实说,我并不喜欢这种大而无当的措辞。前述对未来的想象,甚至没有跳出上个世纪人们的框架。
1913年,在法国出版的一本谈概率的书籍就提出“无限猴子定理”:一只猴子在打字机上随机且长时间地按键,几乎必然能打出任何给定的文字,比如莎士比亚的全套著作。粗略地看,到当下语境,这个实验对象不过是由猴子变成机器程序。
那么,人的主体性在哪?如果你是学生,应该意识到利用ChatGPT代写作业本质上是一种懒惰与作弊。如果你自认属于求知者,则要审慎地对待由某些喜好支配的机器所提供的“信息鸡精”。
这篇“结绳”,一方面讨论ChatGPT的“能”,但更多的牵涉“不能”以及“缘何不能”。同时,关注俄乌战争、清洁工等话题,可以理解成是在介绍我们的“还能”。
讨论
01丨如何理解ChatGPT?
打开百度或谷歌,以“ChatGPT”作为关键词进行国内热度检索,你就会看到一条几乎贴着横坐标轴的线条,在2月上旬迎来陡峭的波峰。
简单来说,ChatGPT是OpenAI去年11月推出的一款AI聊天机器人。这家美国科技公司还曾发布名为DALL-E的图片自动生成系统,用户输入文字指令,便能得到相应的图片。去年,有人凭借DALL-E制作的《太空歌剧院》(Théâtre D'opéra Spatial)在科罗拉多州博览会美术比赛中获奖,引起艺术家的声讨。[1]
ChatGPT波及的范围更大。它不仅能生成图片,还可以实现接近真人语境的对话。正如其名字提到的,这得益于生成预训练转换器(Generative Pre-trained Transformer)技术。转换器预测了一个句子中的下一个词,一篇文章中的下一个段落。[2]
早在2020年,The Guardian就刊登过由GPT-3写出的观点文章。如今,基于优化后的GPT-3.5模型,ChatGPT能应付考试了。经测试,美国大学本科生通过这一工具,提交的答案甚至拿到满分。[3]
但是,有关教育的争议随之而来。高校纷纷回应,禁止在作业、考试中使用ChatGPT等AI工具。著名语言学家William Chomsky接受采访时表示,ChatGPT本质上是高科技剽窃,这个系统从海量数据中寻找规律,将内容整合。类ChatGPT系统在帮助人类理解语言、增进认知等方面没有任何价值。[4]
版权问题是所有AI产生的内容所面对的模糊处境。2020年1月,经广东省深圳市南山区人民法院认定,腾讯利用关联企业开发的智能写作辅助系统Dreamwriter,生成并发布一篇文章,随后该文章未经授权被搬运至他处,后者行为构成侵权。需要注意,这并未形成统一明确的规则。[5]
Forbes介绍,根据美国现行法律,必须是人类作者原创、具有创造性的作品,才享有版权保护,而美国版权局不会对由AI工具产生的内容进行注册。[6]
不论如何,AI内容的出现都是对此前法律及其保护价值的一次冲击。
模糊性没有阻止科技巨头的脚步,谷歌、微软等公司都纷纷扎入ChatGPT掀起的变革浪潮。然而,不乏声音质疑,这种积极性更多出于它们的体量太过庞大,面对当下的业绩下滑,不得不争先恐后地寻找下一个机遇。[7]
可股市愿意暂时为此买单。国内,百度宣布很快将发布类ChatGPT产品“文心一言”后,股价迎来约15%的上涨;知乎股价创下新高,也被猜测受到微软的影响,后者计划推出融入ChatGPT的搜索引擎,中文网页的不少答案会来自知乎。[8][9]
2月13日,北京市经信局也为AI产业添柴加薪,发布《2022年北京人工智能产业发展白皮书》。《北京日报》报道,在专利授权数量全球排名前100的机构中,北京总部机构30家。在北京诞生的智源“悟道2.0”已成为全球最大智能模型,参数规模达1.75万亿;百度“文心”大模型参数规模达2600亿,是目前全球最大中文单体模型。[10]
问题是,为什么“ChatGPT”不是出自中国?一篇短暂存在于微信公众平台的文章梳理道:
NLP(自然语言处理)圈的小家碧玉,CV(Computer Vision)圈的隔行隔山,疫情闭关三年,互联网信息不通。……10年来,我们以为自己积攒的AI算法、数据、应用的优势,如今变成中美巨大的鸿沟。这个时候,我们甚至没有一个新闻调查,把这件事的来龙去脉,挖它个底朝天。[11]
业界把算法、算力、数据看作AI领域的三要素。“中国AI先进”论断的形成,大概源自这三方面的认知:算法公开,芯片进口,数据庞大。
斯坦福大学中国经济与制度研究中心高级研究员许成钢,对此持反对意见。他指出,应用层面的算法大多是保密的,ChatGPT3.0就只公开一个简化版本。其次,半导体被“卡脖子”后,中国的AI算力也很快受影响。即使看似庞大的数据,由于诸多限制,它们的质量不高。[12]
以2月16日召开的会议为例,新闻稿写道,2022年11月以来,中国“取得疫情防控重大决定性胜利,创造了人类文明史上人口大国成功走出疫情大流行的奇迹”。如果用以训练AI的数据都是如此“宏大”,我们又怎么期待本土“ChatGPT”能够“说人话”?[13]
当然,OpenAI的ChatGPT也绝非没有偏见。Middle East Eye一篇评论文章表示,当简单提示ChatGPT谈论美国前总统特朗普的种族主义时,得到的答复是,根据有限信息对某人进行“概括”是不恰当的。
该文章补充说,这个结果令人惊讶,因为特朗普的种族主义言论和行为可追溯到几十年前。这种泛泛而谈,大概是ChatGPT接受了更多的人工输入训练,以避免冒犯特朗普的共和党拥趸。[14]
出于这层考虑,我觉得AI在人类创作活动和价值判断等方面的“取代论”——或者说自愿放弃而仰赖AI的想法——是可疑的。
随着ChatGPT被追捧,中文互联网上涌现诸多有关丢掉工作的担忧。此外,也有一派相信,ChatGPT会将我们从缺乏技术性的重复工作中解放出来。[15]
未来怎样?不妨回顾下历史。2012年,著名人类学家David Graeber写下长文,反思全球面临的技术困局,即自1970年代以来,技术革新被阻断,一切都在减速发展。他引用了马克思主义经济学家Ernest Mandel上世纪的预言:
人类正站在“第三次技术革命”的边缘,它就像农业革命和工业革命一样深刻,在这场革命中,计算机、机器人、新能源和新的信息技术将取代工业劳动——很快就被称为“工作的终结”——使我们所有人都变成设计师和计算机技术员,我们提出疯狂的设想,自动化工厂来生产。
很遗憾,流行于上世纪70年代末80年代初的“工作终结”设想并未成真。实际发生的情况是:
信息技术的传播和新的运输组织方式——例如航运的集装箱化——使得这些同样的工业工作被外包到东亚、拉丁美洲和其他国家,在这些国家,廉价劳动力的供应使得制造商可以采用比他们在国内更简陋的生产线技术。
即使在一些发达国家,人们似乎也没有过上更闲暇或更有意义感的生活:
正如我们不断被提醒的那样,计算机开辟了某些自由的空间,但……它促成了资本的金融化,使工人铤而走险地陷入债务,同时也为雇主创造“灵活”的工作制度提供了手段——既破坏了传统的工作保障,又增加了几乎所有人的工作时间。
……18世纪和19世纪新型工业自动化的发明产生了矛盾的效果,使世界上越来越多的人变成了全职工人;而所有旨在使我们免于承担行政职责的软件,也使我们变成了兼职或全职的行政人员。[16]
所以,ChatGPT会带来什么?作为人的自我主体性又该放置在何处?
02丨胡鑫宇事件与阴谋论
失踪106天的江西铅山致远中学高一学生胡鑫宇,在1月28日被找到时,已经没有生命迹象。2月2日,江西省、市、县联合工作专班召开新闻发布会,通报事件调查情况。但这并未回答所有人的疑惑。[17]
例如,胡鑫宇失踪前,2022年10月11日,江西省副省长孙菊生刚到省卫生健康委调研疫情防控工作,强调“要把疫情防控作为当前最重要的工作来抓”,“织密织牢疫情防控各道防线”。胡鑫宇失踪后的1月7日,江西省、市、县联合工作专班组织4轮交叉勘查,1月9日当地又组织乡镇工作人员、民间搜寻力量、热心市民等开展搜索,均一无所获。[18][19]
为什么一个15岁的学生,能躲过几乎无处不在的核酸查验?尤其是,尸体所在之处距离与致远中学胡鑫宇宿舍约450米、被一再搜索的情况下,为什么时隔上百天才找到?
根据发布会的说法,专班组的工作还存在不足。这个回答本有机会被更广泛地接受,但是考虑到官方在既往处理节点上的事实出入,它反而激起公众的质疑。
1月1日,江西铅山警方对学校监控视频是否被删减进行回应时说,通过监控的设备生产商海康威视技术人员鉴定,表明视频未被删减。可1月5日,《中国新闻周刊》采访接近海康威视方面的消息人士,发现实际情况是,海康威视并未做出过视频是否被删减的鉴定结论。这无疑将此前弥散的“被割器官后抛尸”等阴谋论推向高点。[20][21]
仅仅声讨“愚民”“坏民”是不平衡的。毕竟过去的2022年,不少人应该都对“上海不能封城”的信誓旦旦与自食其言感触颇深,对“MU5735搜寻发布会”上的答非所问愤愤不平——如果愿意,沿着关键词,你甚至很容易就在网络上翻出一篇中国共产党新闻网2013年发布的《“答非所问”的发布会,意义有几分?》。[22][23][24]
媒体人梁文道在《八分》一期节目梳理说,公众怀疑胡鑫宇事件处理结果,本质属于一种情绪上的拒绝信任,是没有办法用任何的事实证明和逻辑推理来消除的。[25]
这不免让人想起“塔西佗陷阱”。该政治学理论源自古罗马历史学家塔西佗,表达的是倘若公权力失去公信力,无论其如何发言或是处事,社会均将给予负面评价。[26]
2014年,国家主席习近平在河南省兰考县委常委扩大会议上,也就此发表评论:“我们当然没有走到这一步,但存在的问题也不谓不严重,必须下大气力加以解决。”[27]
有意思的是,到2017年,《人民日报》以整版探讨“塔西佗陷阱”,点明不能盲目使用。
文章称,“政府公信力问题也存在多种复杂因素,很多时候并不是政府尽力做好了,群众就一定会认同”,而“用西方的话语来解释中国问题往往行不通。如果试图用西方政治学理论来为中国政府公信力问题寻找对策,就更会南辕北辙”,我们“在政府公信力方面,特别要走出西方政治学观念的影响,构建起具有说服力的中国话语”。[28]
2月2日的新闻发布会上,发言人承认不足后,表示将“举一反三,进一步改进工作”。这算是构建起了重塑公信力的中国话语吗?你可像政府通报公文惯用的措辞那样,“举一反三”。[29]
死者长已矣,生者仍需向前。胡鑫宇的自杀被主要归为心理问题,当地教育主管部门称,事件发生后,工作人员及时在致远中学进行心理危急干预,在全县各级学校开展以生命教育为主题的心理健康专题教育,为学生提供心理健康咨询服务。
同样就此发声的还有北京市社会心理工作联合会。新闻发布会刚得出胡鑫宇系自杀的结论,该机构很快发布一封信《胡鑫宇,请给心理指导师五分钟》。在信中,社会心理指导师张青之似乎颇为动情地说:
孩子啊,请给我5分钟,我可以告诉你,什么是你“人间值得”,什么是“活着的意义”。
……你遇到了学习成绩不如意,上不了大学或者上不了好的学校,那是只是考试的结果,而不是人生全部。
……如果你不在了,就没有机会感觉到悲伤与痛苦:刺激你发愤,激励你斗志,产生壮怀激烈的男儿豪情![30]
我从这些言论里,看到自己学生时代的影子。高中,同年级的一名学生自缢在教室;大学,宿舍楼里见义勇为者不幸遇害,那些随之涌现在册子校报上的文字,用的就是如此口吻。可多年过去,我们走出阴影了吗?
每日人物记者走访铅山县,发现“胡鑫宇”几乎无处不在。致远中学面临着激烈的教育竞争,学习又是这种地方唯一重要的事情。关于死去的胡鑫宇,有的陪读家属坦言“不认识,不影响(自己孩子)学习就好”。也有学生回忆起跟母亲的对话,说自己“最近情绪比较低落,有点抑郁”,得到的回复却是“拿这个威胁我吗”。[31]
心理建设是缓慢而长久的过程。无论是行政部门,抑或教育机构,当下恐怕都更希望能立竿见影,进一步的严格管控便成了题中之义——诸如让学生签署《不自杀承诺书》。[32]
至此,假设还发生类似事件,我们又该怎么办?大抵只剩下不断循环吧。
历史学家王迪说,公权力掌握的权力越多,所担负的责任就越大,正如托克维尔描述法国大革命一样,就连天气不好,民众也要迁怒于政府。希望我们不会走到那一步。[33]
关注
01丨俄乌战争一周年
2022年2月24日,俄罗斯入侵乌克兰。
请注意这句话包含的价值判断。过去一年,国家并未做出类似的指责,个人却可以有自己的标准。
不过,我这里选择用“入侵”而非“进入”,选择用“战争”而非“军事行动”,并不是基于道德视角,而是站在事实向度:俄罗斯确实未经许可越过国境,并且引起了重大伤亡。
报导者团队在2022年9月至10月回到俄罗斯曾占领的一个乌克兰小镇,并制作了一段关于战火下的罪行、伤痕和重生的视频和互动镜头——《如果你也在现场:直击战争阴影下的乌克兰小镇》。[34]
需要再次提醒,该内容也存在价值判断。或许过去一年,你已经看过更详细、更中立的报道。但在此着墨的出发点是,你仍然能从最简单的镜头层面,感受什么叫战争,什么叫生命。
02丨困在暗面的清洁工
对我来说,丢垃圾有时候变成一件很难堪的事。这些时候,基本会出现一两个人,似乎穿上橙黄色外套,大概还戴着耷拉的鸭舌帽,或坐或站在垃圾桶的对面台阶上。我不知道他们的名字,只晓得他们是清洁工——或者更加正式的说法——环卫工人。
如果清洁工在场,我走向垃圾桶,过程中很明显察觉到被注视的目光。这个城市并未强制垃圾分类,垃圾桶也不存在区别。我将垃圾扔进桶内,转身没走出多远,背后便传来窸窣的翻找声。
我承认,想象他们的处境是需要不少勇气的。更多时候,我会选择逃避,或者自我欺骗式地相信,一个晚上过去,这些并不光鲜亮丽的人和事,会像清空的垃圾桶一样,重新转向,充满可能。
端传媒在2月刊出一篇记者自述,讲的就是F与不同清洁工相交的经历,当然也包括无能为力的挫败。
F曾在从业初期,常被安排去采访“最美环卫工人”。这个名称不会带来奖金,采取差额评选,但被采访人却满怀希冀,在路边的报刊亭硬塞了两瓶红牛给F以示感谢。后来,补贴和名额都没有着落,这两瓶红牛也一直被搁置在冰箱,直到过期,下落不明。
文章还提到,2019年前后,中国许多城市开始推行垃圾分类运动。F常被所在小区的清洁工埋怨,垃圾应该好好分类。有一天,这个清洁工挤出笑容找F签字,从没给她发工资的物业公司要赶她走,除非她能拿到90%的业主签名。她已经拿到几百人的签名了。她最终还是走了。
这些宏大叙事之外的故事也许并不重磅,也非必要,但无法否认是事实。F自白说:
我越来越意识到,这个世界被分割成两个部分,一个是被接受的,一个是被丢弃的。前一个世界越光鲜亮丽,后一个世界就越肮脏。就像居民楼能保持干净,全赖每天把垃圾丢到垃圾堆里。大姐被人注意到她穿越了缝隙,她进入了光鲜亮丽的世界,惊扰了一些人,所以被驱逐。
“最美环卫工”没有得到任何帮助,因为她属于界限另一边的世界,那个世界负责承受正常社会的垃圾,欲望,卑劣的道德,和无法启齿的阴谋。[35]
03丨敬一丹:我就是想记录
2018年7月,已从央视退休的敬一丹,在一席做了回演讲,主题是个人的记录。但我是近期才注意到的,索性将之一并列于此处。
敬一丹想要记录的缘由之一,是她对于经验断层的惊讶。当她跟八〇后提起工农兵学员,得到的反应是迷茫的;当她跟九〇后说到粮票、布票,后者表示,自己都没见过布,就见过衣服。
在《焦点访谈》主持期间,敬一丹收到不一而足的信,大部分都是从偏远地区寄来的,节目里播出的却仅是冰山一角。退休后,她将这些信整理出版,并理所当然地认为,每隔五年十年做一次类似的事情,这就成为社会的记录,有些令人头痛的词汇会消失,让人看到光明的词汇会出现。然而这个进程,远没有她想象的那么快。
演讲尾声是这么说的:
我所做的这些记录,不是一个人,不是一个家庭,它是一个小小的拼图。在一个大大的图景里,每个拼图都是有意义的。
……我太不想让我那些有痛感的记忆,出现在我女儿的生活中。那些有痛感的记忆我们把它记下来,内心里的愿望是不愿意让她重现。那么我女儿和她的小伙伴们,他们今天的空间是什么,他们在创造什么,他们创造什么是将来也值得记录的,他们将记录什么给他们的孩子呢?[36]
参考备注:
- 题图:Photo by Andy Kelly on Unsplash
- ChatGPT的滥用,无疑提高了对抄袭的指控门槛。我曾撰文探讨过文艺作品在网络环境中的抄袭认定难题,如今看来似乎还是过于理想:大学拾遗丨刍议网络环境中的文艺作品抄袭之认定标准
- “结绳”系列邮件订阅及在Substack更新地址:https://yuliqing.substack.com
- “结绳”系列在Matters更新地址:https://matters.news/@ysmwryx