「当 Google 签约时，我的良心说不」：DeepMind 研究员因五角大楼 AI 军事合约辞职

Google DeepMind 研究员艾力克斯・透纳（Alex Turner）因公司与五角大厦签署 AI 军事合作协议，出于良知决定辞职。此事加剧了 Google 内部因军事合作引发的持续反弹，透纳表示他目前尚未寻找新工作。

「我的良知告诉我『不行』」

在 Google DeepMind 从事 AI 安全研究超过两年的研究科学家透纳告诉 Business Insider，他已于 6 月离职。透纳表示，他在 Google 签署协议、允许五角大厦将其 AI 用于机密行动后，做出了这个决定。

五角大厦在 5 月初证实，已与 Google 以及包括微软（Microsoft）、亚马逊（Amazon）和 OpenAI 在内的一组公司签署协议，用于”合法营运用途”。

透纳告诉 Business Insider：「当 Google 签署这项协议时，我的良知告诉我『不行』。」

Google 发言人当时回应称：「我们仍致力于私营与公共部门的共识，即在没有适当人为监督的情况下，AI 不应被用于国内大规模监控或自主武器。」

Google 与五角大厦的协议在其员工群体中引发了一些反弹：

今年 4 月，Google 近 19.5 万名员工中，约 600 人签署了请愿书，要求公司不要参与任何涉及机密工作的交易——机密协议限制了 Google 对其 AI 使用方式的监督程度；
一名 DeepMind 研究员在 X 上表示，他对协议感到”羞愧”；
另一名员工 5 月在内部发表了辞职信，同样提到 Google 与美国军方日益密切的关系；
英国 DeepMind 员工则因 AI 国防合约发起筹组工会。

透纳表示，他从 2 月就开始考虑离开 Google——当时他首次预见到 Google 会签署五角大厦的协议。

他在周三发表的博客文章中写道：「我想如果他们没有签署协议，我会再多待几个月。当 Google 签约时，我就是无法再继续工作了。我的大脑说『不』。」

今年早些时候，他曾提出一个军事 AI 框架，希望 Google 能采用，其中包括确保人类对 AI 目标定位系统拥有控制权的条款。他还：

与 Google 首席科学家杰夫・迪恩（Jeff Dean）共进午餐讨论担忧；
协助组织了一封给迪恩的员工联名信，呼吁 Google 在与五角大厦的任何协议中划定红线——例如禁止 Gemini 在没有人为监督的情况下驾驶自主武器；
将军事 AI 框架提案发给 DeepMind CEO 哈萨比斯（Demis Hassabis），后者让他交由两位负责 Google 政策的高层评估。讨论完后续步骤后，透纳便不再收到回复。不久之后，国防部证实已签署协议。

Google 发言人表示，公司一直乐于听取透纳的想法。

2025 年初，Google 更新了其 AI 原则，删除了不追求将 AI 用于武器或大规模监控的承诺。哈萨比斯当时共同撰写博客文章宣布这些变动，决定在当年就引发了部分员工反弹。

透纳在离职前发给同事的内部讯息中表示，哈萨比斯在员工大会上的评论（称其原则未变）与删除承诺的决定之间存在脱节：

如果我连这个容易查证的说法都无法信任，我该如何对他所说的、能保护我们的谨慎监督感到安心？

透纳在博客文章中写道：「在那种情况下，我的良知让我无法留在 Google，所以我离开了。」

他表示，在规划下一步的同时，正从事独立的 AI 安全与防护工作：

当一名员工离开顶尖 AI 实验室时，通常会投入另一家的怀抱。他们通常会借此获得巨额奖金。但我没有这么做：我没有与竞争对手的实验室眉来眼去。

他补充：「我现在处于失业状态。」

参考资料 / 来源