亚马逊、微软因开发AI杀手令世界陷于风险之中

近日，针对致命性自治武器立场的一项调查研究发现，亚马逊、微软和英特尔等主流科技公司，因开发杀手机器人而将世界置于危险境地。

荷兰非政府组织 Pax 根据以下三个标准给 50 家公司做了排名：是否在开发与致命人工智能 (AI) 相关的技术；是否参与相关军事项目；未来有无退出打算。

报告主要作者 Frank Slijper 称：为什么微软和亚马逊这样的公司不否认当前正在开发这些极具争议的武器？这些武器可是很可能不用人类直接干预就能作出杀人决定的。

近些年来，武器系统运用 AI 自主选择和攻击目标的话题引发了伦理大讨论。批评家警告称，此类杀人 AI 将会危害国际安全，预示着战争形态将继火药和原子弹之后迎来第三次变革。

8 月 21 日，在日内瓦召开的联合国《特定常规武器公约》会议上，政府专家小组讨论了致命性自治武器的政策选项。

谷歌于去年公布了避免 AI 用于武器系统的指导性原则，因而入选该涵盖 12 国的调查分析中践行 “最佳实践” 的七家公司之列，以 Pepper 仿真机器人闻名的日本软银也在此列。

22 家公司归属于 “中度危险” 范畴，21 家落入 “高度危险” 类别，其中亚马逊和微软正在竞标国防部 100 亿美元云基础设施合约。

落入 “高度危险” 范畴的其他公司包括 Palantir——一家根植于美国中央情报局 (CIA) 背景风险资本的公司，获得了 8 亿美元 AI 系统合约。该 AI 系统若研制成功，将可帮助美国士兵实时分析战场情况。

8 月 21 日，加州大学伯克利分校计算机科学教授 Stuart Russell 接受法新社 (AFP) 采访时表示：自治武器无疑将成为可扩展的大规模杀伤性武器，因为只要决策环中摘除了人的部分，那一个人就可以触发 100 万乃至上亿自治武器。

自治武器将交由企业开发，若想阻止自治武器泛滥，他们在其中扮演的角色就很重要了。

军用 AI 的开发已引起业内广泛争论与抗议：去年谷歌拒绝续约美国国防部 Project Maven 人工智能项目，不再帮助美国军方利用机器学习分辨无人机视频中的人和物体。

该公司还退出了联合企业防御基础设施 (JEDI) 的运营，而亚马逊和微软正争取替代谷歌在该合约中的位置。

报告指出，微软员工也表达了对美国陆军一份合约的抗议，该合约标的物是微软头戴式增强现实全息眼镜 HoloLens，旨在增强战场上的致命性。

自治武器什么样

当前的任何武器，不管是坦克、战斗机，还是潜艇，人们都在开发自治版本。

以色列的 Harpy 就是已面世的自治无人机，游荡在目标空域，伺机选择打击位置。

更令人担忧的，是尚未出现的新型自治武器，比如 2017 年短片《杀戮无人机》(Slaughterbots) 中刻画的那种迷你武装无人机。

有了这种武器，你用集装箱或货机运送 100 万架过去——它们的杀伤力堪比原子弹，却不会损毁任何建筑物，只杀人。

采用人脸识别技术，这些无人机 “可以清洗某个民族或某个性别，或者利用社交媒体信息完全抹杀持某种政见的人”。

今年 4 月，欧盟公布了公司和政府应如何开发 AI 的指南，包括需人类监管、以非歧视的方式造福社会和环境，以及尊重隐私。

Russell表示，有必要采取进一步措施设立致命性 AI 国际禁令，简言之就是 “不能开发、部署或使用可做出杀人决策的机器。”

Pax 调查研究报告链接：

https://www.paxforpeace.nl/newsroom/major-tech-companies-may-be-putting-world-at-risk-from-killer-robots