《人工智能的恶意使用：预测、预防和缓解》导读（二）

二、AI是一把双刃剑

（编者按：在上一节亦即概要部分，已经基本按照原文列举了该报告的全部关键内容。为了更加突出重点和更好理解，本导读的正文并不完全按照原报告叙述。考虑到AI的Dual-use即双刃性质是贯穿全文的关键性质，因此本节从原文的第二章中抽取一部分内容，在本小节中专门阐述此问题。）

人工智能领域的目标是实现广泛任务的自动化。目前人工智能研究人员研究的典型人物主要是玩游戏、引导车辆和对图像进行分类（报告提出的时候，元宇宙概念还不热门——编者注）。但从原则上讲，人类或非人类动物利用其智慧完成的任何任务都可以成为人工智能努力的目标。

虽然人工智能领域可以追溯到20世纪50年代，但最近几年的快速进展和增长使其具有更大和更广泛的相关性。研究人员在其最常研究的一些任务上取得了突然的性能提升。例如，目前人工智能对图像的识别准确率，在最近的很短一段时间里突然明显超过了人类（98% vs. 95%）。除了竞技游戏，在语音合成、图像生成等方面也有惊人的成就。

图一显示了人工智能图像识别的进展过程，其中虚线代表人类的水平，可见人工智能已经超过人类水平。

下面的图二是人工智能自动产生的人脸图像示例，可以看到，它们与真实照片已经几乎看不出区别。（此图由编者添加，原文没有此图）

（在本报告发布后的短短几年里，AlphaGo系列AI取得更多长足的进展，例如MuZero已经可以自动学习围棋或其他棋类、游戏的规则，以及，AlphaFold识别了几乎全部蛋白质结构，再有，AI判罚在2022年卡塔尔世界杯中的应用，等等， 这些成就让人惊叹不已——编者注）

从安全的角度来看，这些成就中的一部分已经非常值得注意了。例如，能够识别目标的脸并具备空间导航的能力的人工智能，可以应用于自主武器系统；同样，生成合成图像、文本和音频的能力可以被用于冒充他人，或通过社交媒体渠道发布人工智能生成的内容来动摇公众舆论。

人工智能系统以及如何设计人工智能的知识，既可以被用于民用，也可以被用于军用。更广泛地说，既可能被用于有益目的，也可能被用于有害目的。

也可以这么说，需要智能的任务既可能是良性的，也可能是恶性的，这与人类智能的意义相同。所以作为模仿甚至会超越人类智能的人工智能来说，必然可能产生双重用途。而对于可能产生有害目的的研究和系统，AI研究人员可能无法简单地自我判断和规避，因此产生有害系统的可能性是存在的（在后面的应对策略章节，会提出教育研究人员的建议）。

许多有利于自动化的任务本身就是双重用途的。例如，检查软件漏洞的系统同时具有进攻性和防御性，用于运送包裹的自主无人机的能力和用于运送爆炸物的自主无人机的能力之间的差别不必很大。此外，关于人工智能的基础性研究，本质上也可以是双重用途的。

这就是为什么说：人工智能是一个双重用途的技术领域，它是一把双刃剑。

（未完待续）