Google军事人工智能合约引发辞职潮
谷歌（Google）将其人工智能（artificial intelligence,AI；人工智慧）技术部署于军事用途后，正面临部分员工的反弹。 BBC采访了多名科技从业人员，他们或是最近已从Google旗下人工智能公司GoogleDeepMind辞职，或正准备离职，原因是对这家科技企业的军事合约感到忧虑。 常驻伦敦的研究工程师索菲亚·利古里（Sofia Liguori）是其中之一。她于本周从GoogleDeepMind辞职，并独家向BBC谈及她的忧虑，尽管她的合约限制她这样做。 利古里以个人身分发言：“意识到我的公司愈来愈积极推动在军事行动中使用人工智能系统，令我对在Google工作感到羞愧。”
索菲亚·利古里（SofiaLiguori）从Google辞职，称该公司推动将更多人工智能技术用于军事用途，令她对在那里工作感到“羞愧”。 Google一名发言人回应BBC时表示：“我们与全球各地的公共部门机构合作，并遵循一致的程序审查及签订这些合约，包括遵守我们的可接受使用政策和人工智能原则。” “我们亦设有专门渠道，让员工能安全地提出任何忧虑，涵盖商业操守以至不当行为等问题，而我们亦制订了严格的工作场所政策，以防止任何形式的报复行为。” Google是今年稍早与美国军方签署合约的多家科技公司之一，以便在机密军事环境中部署人工智能技术。美国国防部长皮特·赫格塞斯（PeteHegseth）已将人工智能整合至武装部队列为重点优先事项，并表示特朗普政府将成为一支“以人工智能为先的作战力量”。
美国国防部长皮特·赫格塞斯（Pete Hegseth）于1月表示，美国“将成为一支‘以人工智能为先’的作战力量”。 但人工智能技术正迅速演进，批评者质疑，在未经更多测试、缺乏更强保障措施及人类监督的情况下，其可靠性是否足以应用于战争。 在公司工作三年后，利古里表示，她因Google日益加深与美国和以色列军方的合作而决定辞职。“我不同意这个方向，而这亦令我失去对公司能够忠于其所宣称道德价值的信心。”她说。 根据Google的《人工智能原则》，这些价值包括在实施人工智能时纳入“人类监督”，并使技术符合“国际法和人权”。但BBC采访的现任及前员工，以及相关专家表示，他们忧虑关键时刻的人类监督程度是否足够。 这些科技从业人员表示，他们尤其担心今年签署的人工智能军事协议，因为这些协议大幅扩大了五角大楼（ThePentagon）可使用相关技术的范围。 人工智能研究员安德烈亚斯·基尔施（Andreas Kirsch）本月稍早亦因相关忧虑从GoogleDeepMind辞职。 基尔施向BBC表示，他认为“Google的治理和监督机制不足，或缺乏足够意义，无法在军事及机密环境中安全且负责任地部署人工智能”，也不足以“在未来安全地开发人工超级智能”。 他补充说：“Google似乎无权控制或否决五角大楼如何使用其人工智能，而且似乎也无法充分掌握其部署方式。”
前Google员工基尔施认为，现有人工智能模型还不够“稳健”，不足以用于军事用途。 过去数年，美国军方已部署多项由人工智能驱动的技术，以提升其作战能力。 其中最著名的例子是Maven 智能系统（Maven SmartSystem），这是五角大楼用于整理情报和数据的主要软件平台。 该系统由美国国防公司帕兰提尔（Palantir）开发，利用人工智能协助人员选择及识别打击目标。帕兰提尔已将多家领先人工智能公司的技术整合至Maven系统，而这使部分流程得以大幅加快。 曾任Project Maven主管的退役中将杰克·沙纳汉（Lt Gen (Ret) JackShanahan）表示，现时的“理念”似乎是：“尽可能快地部署（人工智能技术），并尽可能广泛地使用，即使可能因此牺牲测试与评估所需的严谨性和纪律。” 然而，五角大楼一直坚称采用人工智能技术对赢得战争至关重要。美国国防部副部长埃米尔·迈克尔（EmilMichael）今年稍早在一份声明中表示：“速度决定了人工智能时代的胜利。” Google与五角大楼于今年稍早签署的合约，允许其人工智能技术用于机密军事项目。协议指出，Google的人工智能模型可用于“任何合法的政府用途”，而且“在没有适当人类监督和控制的情况下，不应用于国内大规模监控或自主武器（包括目标选择）”。
Google的《人工智能原则》包括在实施人工智能时纳入“人类监督”，并使其符合“国际法和人权”。 OpenAI、亚马逊（Amazon）、微软（Microsoft）、SpaceX、甲骨文（Oracle）、辉达（Nvidia；英伟达）以及初创公司Reflection 亦签署了类似协议，允许人工智能技术部署于运输、规划和战场行动等各种军事场景。 随着技术迅速发展，人们对人工智能用于战场的忧虑亦日益增加。 曾任OpenAI地缘政治团队主管的莎拉·肖克（SarahShoker）表示：“人工智能运作速度远快于人类，因此会压缩操作员作出决策的时间，而在高压环境下这尤其危险。” “当有数百个目标由人工智能选出，而可供决策的时间又很短时，人类操作员几乎不可能真正审查人工智能输出结果中是否存在错误。” Google员工向BBC表示，由于雇佣合约禁止他们公开批评公司，因此员工害怕就人工智能安全及其战争用途发声。 索菲亚·利古里向BBC表示：“原则上，我终其一生都不被允许批评Google。”但她决定这样做，“因为我认为让外界知道这些事情很重要，而且我也认为陈述事实并不等于批评”。 利古里补充说，在Google，“人们害怕遭到报复，害怕影响自己的职业生涯。你会觉得自己正被监视，无法发声。” 一名现任GoogleDeepMind员工因担心遭到报复而拒绝具名。他向BBC表示：“很多因认同（公司）原始使命而加入的积极员工可能会离开，但同时也有源源不绝的职场新人可以填补这些职位。这可能是一场世代交替。” 另一名同样希望匿名的Google DeepMind员工向BBC表示：“很多对此事（GoogleDeepMind如何改变其伦理立场）感受强烈的人已经离开公司。” 该员工说：“有些人仍在抗争，另一些人则想着：‘这是一家大公司。你真的期望能改变什么吗？’” Google与以色列的协议亦引发争议。2024年，公司因与亚马逊签署一项价值12亿美元（9.6亿英镑）、名为“雨云计划”（ProjectNimbus）的合作合约而受到员工批评。该项目为以色列政府和军方提供人工智能技术及云端运算基础设施。当时Google表示，ProjectNimbus“并非用于与武器或情报部门相关的高度敏感、机密或军事工作负载”。 此外，以色列在战争中的人工智能能力亦成为讨论焦点，原因是近期纪录片《附带伤亡》（Naza；《杀戮代号︰NAZA》）探讨了人工智能驱动目标选定系统在轰炸加沙地带中的角色，并指出其造成大量平民伤亡。以色列一名政府部长表示，影片中的说法失实且具有误导性。 前Google员工安德烈亚斯·基尔施认为，人工智能军事技术尚未准备好投入战场。他表示：“现有人工智能模型仍不够稳健，而且我认为它们也未曾针对这类任务接受训练。”