美國副總統Kamala Harris 05/04 與頂級人工智慧（AI）公司Alphabet、微軟、OpenAI以及Anthropic的執行長們會面，這是拜登政府向各公司施壓的一部分成果，好以實施圍繞新興科技的保障措施。

在OpenAI推出第四代chatGPT之后，流行之风从AI领域刮到泛科技界，同时也出现在各行各业的讨论声中，面对如此盛况，对热闹保持怀疑心态的我会想“真的这么厉害吗？缺点是什么？”，这样想并不是不接受它带来的改变，而是想了解这种大型AI系统会对未来产生怎样的影响，我们应该如何面对...

ChatGPT的公司创始人之一埃隆·马斯克警告说，人工智能是人类文明未来面临的最大风险之一。

人工智能是一把双刃剑。AI技术既可以被用来造福社会，也可能被用于危害社会。因为AI能力强、扩展易，并且使用门槛低，加上AI本身的漏洞也非常危险，所以恶意使用造成的危害可能是巨大的。目前整个人类社会对AI潜在问题的警醒程度是不足的，所以如何对AI恶意使用问题进行研究和干预，成为越来越迫切的问题。

希望我们只是杞人忧天，实际上什么事都不会发生，那么我们只是一群孤独的放哨人。

六、干预措施建议本小节包括了原文第4章和第5章关于干预人工智能发展的一些建议，这些建议可以在一定程度上缓解人工智能带来的或面临的安全性问题。本小节以列举的形式给出比较粗略的要点。建议阅读原文了解细节。策略性建议：合作：政策制定者应与技术研究人员紧密合作，调查、预防和缓解人工智能的潜在恶意使用。

五、攻击场景预测：数字空间、物理世界、政治环境报告在分析了AI提供的新能力以及由此带来的安全攻击的变化后，进一步在以下三种场景下，列举了一些可能的具体攻击形式：数字安全物理安全政治安全此外，报告还针对上述领域中安全形势带来的影响，以及相关机构和人员的反应等进行了讨论，本导读将略过此部分，读者有兴趣请自行查看原文第三章。

四、攻击变化预测：扩大现有威胁、引入新的威胁、改变攻击特征基于前面关于AI双刃剑和AI新能力的讨论，报告预计，人工智能的安全攻击在高层面上可以归纳出三个方面的变化发展：扩大现有威胁引入新的威胁改变攻击特征报告特别强调，预计人工智能的安全攻击通常会更有效，目标更精细，更难以归因，并且更有可能利用人工智能系统本身的漏洞。

三、AI提供了什么样的新能力？人工智能的安全性问题之所以需要特别关注，不仅因为AI的双重用途性质，更因为AI本身提供了很多强大的新的能力。这些新的能力固然是AI的优点，也是我们发展AI的目的，但与此同时，这些扩展的新能力又让AI相关的安全性问题可能会更加严重。

二、AI是一把双刃剑（编者按：在上一节亦即概要部分，已经基本按照原文列举了该报告的全部关键内容。为了更加突出重点和更好理解，本导读的正文并不完全按照原报告叙述。考虑到AI的Dual-use即双刃性质是贯穿全文的关键性质，因此本节从原文的第二章中抽取一部分内容，在本小节中专门阐述此问题。

一、概述人工智能和机器学习能力正在以前所未有的速度增长，并被广泛应用。但是，到目前为止，人们对人工智能被恶意使用的问题关注较少。本报告调查了恶意使用人工智能技术的潜在安全威胁的情况，并提出了更好地预测、预防和缓解这些威胁的方法。报告使用“恶意使用”（Malicious Use）等...

人工智能早已跳出单纯的研究圈子，渗入到了我们工作和日常生活的方方面面。可以预见，涉及人工智能的恶意攻击，无论对虚拟网络世界还是真实物理世界，都会产生更大的危害。在虚拟世界与真实世界结合的元宇宙，这种危害可能更加巨大。今天，研究和预防相关问题的工作变得刻不容缓。