《人工智能的恶意使用：预测、预防和缓解》导读（序）

2018年2月，来自牛津大学、剑桥大学、OpenAI、人类未来学院、风险研究中心等组织的联合团队，在Arxiv上发表了一篇长达100页研究报告，揭示了人工智能的另外一面 —— 恶意使用人工智能对我们这个世界可能产生的巨大危害。研究报告还提出了预防此类问题的相关建议。

也许在当时，这篇文章的重要性还没那么显著。甚至也许会有人会觉得他们是不是想太多了，或者因为《黑客帝国》或是各种各样的科幻电影看得太多了。

时间过去4年。元宇宙的横空出世，以及人们对元宇宙的巨大热情，让我们不得不更加认真地对这篇文章提出的问题进行审视。

文中提出的种种潜在的攻击手段，在我看来，在今天这个世界上随时都可能发生，也许此刻正在发生，也并不需要等待元宇宙的落地。

人工智能早已不是AlphaGo下下围棋那么简单，也不仅仅是大家熟知自动驾驶领域。实际上，人工智能不再局限在单纯的研究圈子或有限的几个领域，已经逐渐渗入到了我们工作和日常生活的方方面面。今天你上网的每一个行为，你在街上被摄像头每一次的拍摄，你在商店里的每一笔消费，你在远程会议中的一举一动，背后都有极大的可能有人工智能的影子。

套用一句话：Big brother is watching you！

如果说过去的黑客攻击行为其危害还相当有限的话，可以预见，涉及人工智能的恶意攻击，无论对虚拟网络世界还是真实物理世界，都会产生更大的危害，只不过可能更加隐蔽。在虚拟世界与真实世界结合的元宇宙，这种危害可能更加巨大，甚至可能是无限的。

今天，研究和预防相关问题的工作变得刻不容缓。

因此，我写这篇导读，是希望给相关研究人员和从业人员，也给我们普通网民但尤其是元宇宙的热衷者一个警示，及探索了解一些保护自身、保护社会的方法。

该研究报告题目为：The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation，即《人工智能的恶意使用：预测、预防和缓解》。

英文原版可以点击此处免费下载。中文版则暂时无处可寻，也许本系列文章可以起到一定的替代作用。

写完可能需要一些时日，先列一下目录。心急的读者可以点击上面的链接，先看英文😄

目录：

1. 概要
2. AI是一把双刃剑
3. AI提供了什么样的新能力？
4. 攻击变化：扩大现有危险、引入新的危险、改变攻击特征
5. 攻击场景：数字空间、物理世界、政治环境
6. 干预措施建议