奥巴马：担心人工智能入侵美国核武器

执政8年，奥巴马亲眼见证了黑客成长为往届总统都从未见识过的巨大威胁。美国情报和司法机构处理了各种各样的黑客事件，从2009年的谷歌被黑，到这次大选中俄罗斯人的各种捣乱。因此，奥巴马终于学会了制敌机先。这其中就包括为看起来像是科幻小说的各种可能性做好准备。比如说，机器学习训练的人工智能(AI)被赋予盗取美国核武器代码这种事。

在麻省理工学院(MIT)媒体实验室主任乔伊·艾拓和《连线》杂志主编斯科特·达迪奇的独家采访中，奥巴马表达了对AI潜在危险的担忧。在黑客能盗取560万联邦雇员指纹或缔造现代版水门事件的时代，他担心先进的对手是否会利用AI来渗漏政府最敏感的系统。

可能会有这么一个算法，能渗透核代码，找出发射核弹的方法。如果这就是算法的唯一任务，如果算法是自适应的，而且仅仅是一个非常有效的算法，那麻烦就大了。

人工智能黑客或黑客工具这种想法，不仅仅是一种预言。五角大楼的国防高级研究计划局(DARPA)就正在研制AI攻防软件。今年夏天的Defcon大会DARPA挑战赛上，该机构让AI系统捉对厮杀，比拼实时查找、利用、修复软件安全漏洞的能力。

奥巴马称，AI攻击的可能性并不代表着网络世界末日，但确实需要加强美国对所有黑客的防御，无论是人类黑客还是机器黑客。“我对国家安全团队的指令是，不用太担心机器颠覆世界，担心一下非国家黑客或敌对黑客渗透系统的能力比较靠谱。从这个意义上讲，我们现在做的很多网络安全工作并没有概念上的不同。仅仅是说我们需要做得更好，因为部署这些系统的人现在就要好得多。”

奥巴马警告的那种基于机器学习的AI，已经被部署在了网络安全世界——虽然仅仅用于防御，而不是攻击。

开发人员长久以来一直在用机器学习——以样本数据训练软件代码的“自学习”过程，来磨炼垃圾邮件过滤器和识别恶意软件。但另一方面，对防御坚固系统造成严重威胁的真正自动化的攻击性黑客AI，可能还有好几年的路要走。

不过，研究人员已经勾勒出机器学习会被如何利用来攻击这些基于机器学习的系统，而DARPA挑战赛第一次展示了计算机可以使用AI来狩猎对手代码中可供利用的漏洞，进而入侵另一台机器。

在《连线》的专访中，总统称他对网络安全的思考，并不是站在对黑客进行边界防御的立场，而是要建立清除内部威胁的免疫系统。网络安全行业越来越多地聚焦在响应而不是防止——将高级黑客全部挡在网络外面是不可能办到的。“传统上，当我们思考安全和自我保护时，我们想的都是盔甲和城墙。但逐渐地，我们发现自己正看向机器，然后想到病毒和抗体。网络安全为什么一直如此之难的部分原因，就在于该威胁不是朝你驶来的滚滚坦克洪流，而是一大堆可能被蠕虫侵入的系统。”

奥巴马将该方法与另一大国家安全威胁相提并论：流行病。“护墙是拦不住致命流感病毒飞入国境的。我们要做的，是打造各种系统，让疫苗更加聪明。”

奥巴马谨慎指出，所有这一切，仅适用于作为高度进化的工具而被使用的专门AI威胁，不满足更幻想性的完全自治AI情形——有自己的意识和动机但很可能不与人类为友的AI。对这种电影里“天网”类型的威胁，奥巴马开出的处方很接地气：“放个人在电源旁边，看到不妙的迹象就拔插头吧伙计。”