人工智能对人类的长期挑战和威胁

在上一期中，我们讨论了基于人工智能的信息推荐系统，正在以某种方式，驯化人类的群体思维，使得人类偏见加深，包容性降低。这是人工智能需要人关注的即时风险。作为个体，通过广泛阅读和深度思考，拓展自己的思维广度，从而能够对抗人工智能对个体的标签化， 降低个人偏见。感兴趣可以阅读机器觉醒？人工智能对人类即时的风险? 。但对人类整体而言，人工智能的进一步发展，对人类是有益的。人工智能，在很多行业还面临很多质疑，甚至由于无法解释性，在某些行业的推进也困难重重。但人工智能作为一种有效的手段，特别是在数据获取如此方便的今天，人工智能广泛采用，正在或者不可避免的即将发生。很多行业就如同历史上那些由于生产率进步，机器取代的职业一样，将走进历史，彻底消失。

人类已经经历过太多由于生产力的提升，机器取代人工的先例。特别是几次工业革命，机器取代了人的部分能力。回头看人类发展的历史长河，其实真正对人类生活发生剧变的，主要发生在近代的三次工业革命。在这之前，人类只是在利用自然，但近期发生的三次工业革命，却彻彻底底的改变了地球形态。如果站在当时那些人的角度，在机器取代人工大规模发生之前，他们很难想象，或者很难接受这个现实。同样对于人工智能，基于其潜力，也在不可避免的改变社会形态。几年之前，我还相信在某些领域，人类终究还是无法被人工智能取代。直到人工智能开始创作，生成图像，编写乐曲，甚至帮人编程。人工智能不是无所不能，但人工智能将进一步发展，并在某些或者大多数专业，超过人类的能力。

那么问题就是，人工智能会取代人类么？

个人对于社会的价值包括体力价值，技能价值，认知价值。其中体力价值，基本已经在工业革命时期，被机器所替代了。人类的技能价值，是通过后天学习，培训所获得的个人能力。这些专业技能正是目前自动化，人工智能正在替代的一群人。需要指出的一点是，现在我们所说的人工智能，其实包括了自动化、脑神经科学，大数据技术、机器学习等多学科的综合。一个经过长期训练的飞行员，被全自动驾驶飞机取代。一个有着丰富经验的X光读图医生，被基于人工智能的智能读图技术取代[1]。在后面这个案例中，基于深度学习的模型在124个医疗案例中，94%的案例要优于放射科医生的读图能力，其余所有案例不劣于医生的判断。随着目前的自动化，人工智能进一步发展，大部分专业技能将被智能机器所取代。人类的第三个能力是认知价值，这包括了情绪、分析和沟通等。目前在复杂问题方面，人类凭借经验，还是能够超过人工智能的。但是人工智能的发展目标是解决那些超出人类能力范围的问题。特别是大数据和人工智能结合的应用场景中，人类是无法处理这些巨量数据，并作出合理决策的。人工智能在这方面的应用，目前所面临的一个关键问题却是可解释性的问题。人工智能需要让人类理解，才能被应用到一个人类无法解决的问题中去。这确实变的很有意思。

但在认知价值层面，人类被替代的风险还不大。尽管人工智能正在学会理解人类的情绪。脑神经科学，正如近期 Elon Musk 所做的脑机接口的实验一样，尝试读取并理解人类的思维，并进而能够影响和控制人类的思维。但在认知层面，人本身还是很难替代，因为人的认知是一种群体认知。Alphago 打败围棋冠军，并不代表人类在围棋竞技上兴趣的消失。相反，人工智能也许为提升人类的围棋竞技水平提供了额外的帮助。在娱乐业，尽管有“初音未来”这样的获得巨大成功的虚拟女性歌手，但人类在这方面还是很难被取代。 

人工智能对人类发展的长期威胁和冲击

尽管人工智能不能完全替代人类的价值，但人工智能对人类社会的冲击却不可避免，也无法忽视。人工智能以及自动化技术，正在做的事情实际上是将人类从生产过程中逐渐剥离。在工业生产过程中，人类的参与度将越来越低。人们将向消费端转移，甚至会成为一个纯粹的消费者。这一变化的过程中，将会使得普通民众失去社会影响力，进而失去自身价值。在过去的100多年间的平权运动中，普通民众之所以能够获得更多的权利，赢得投票权，通过建立工会向资本家争取福利，其关键是民众在整个生产过程中的广泛参与。拥有资本之外，还需要工人的参与，才能转化为价值。但是人工智能将人类排挤出生产过程，使得大部分的民众失去了自身在社会中的价值。设想一下今天的亚马逊帝国，如果产品的生产，运输，销售，投递都不需要普通人介入的话，资本巨头将会主宰世界。普通民众想要争取自己的权利，将即没有任何筹码，也没有平台，也无法汇聚力量。被从生产过程中剥离出来，民众甚至会失去反抗的理由。普通民众面对将不再是精英和资本的剥削，而是经济精英不再需要人民。人民也就失去了自己的力量。对大部分个体来说，个人的社会价值消亡，成为对社会只是消耗，不创造任何价值的附属品。尽管人类的整体作为一个物种仍有其价值，但大部分个体失去了社会价值。世界将变成分化的两级，一边是失去社会价值的大部分人民，只有消耗，无法创造价值；还有另一部分人，拥有算法和资本，他们将成为社会的另一极，这一极和目前的精英阶层不同的是，他们会成为神，并能够掌握剩下的所有人的命运。国家还存在么？也许还是个问题。

还记得曾经读过一篇获得雨果奖的科幻小说，《北京折叠》，就是描述了一个类似的场景。人类的空间被分成了几层，不同的人占据了不同空间。底层的人甚至不知道上层的存在。而上层的人拥有最多的资源和空间，并掌控了一切。

这不是危言耸听，这将是整个人类要面对的威胁。过去两年的疫情，社会财富正在加速向少数人集中，甚至也包括权力。随着人工智能自动化的推动，这一过程将进一步加速。在这个过程中，目前还没有力量可以改变这个趋势。过去主宰世界的自由主义和全球化理念，需要被新的社会理念所取代。我们需要一种新的理念，以应对人工智能所带来的长期威胁。

Reference

[1][Effect of a comprehensive deep-learning model on the accuracy of chest x-ray interpretation by radiologists: a retrospective, multireader multicase study - The Lancet Digital Health] https://www.thelancet.com/journals/landig/article/PIIS2589-7500(21)00106-0/fulltext.