美军误信AI，险些袭击中国船只

今年春季，正值伊朗战争之际，一份在美国军方内部流传的情报报告立即引发了警报：一艘位于中东地区的中国船只正在运输核武器项目的相关部件。

5月20日，来自美国海军陆战队第31远征队的队员在阿曼湾登上了“天海”号——一艘悬挂伊朗国旗的商用油轮，该船被指试图通过驶向伊朗港口来违反美国的封锁。 © 网络图片

四位知情人士透露称，美军随即采取行动，计划拦截该船。其中两位消息人士称，美军武装人员当时正准备登船。另有两位知情人士——其中一位也是上述消息人士之一——称，当时已有美军飞机在空中待命。

就在该行动计划被执行前，官员们深入审查了这份由美国特种作战司令部的一位分析师编写的报告，发现该报告是借助人工智能生成的，且该分析师使用的一款聊天机器人不准确地识别了涉事船只所载的货物。CNN未能获悉被误认的货物具体是什么。

据一位消息人士透露，这份报告“完全不实”，但它也“差点引发战争”。任何针对中国船只的美方行动，都有可能导致事态升级，演变成两国之间的武装冲突。

美国军方和情报界的官员正致力于将人工智能融入其工作的几乎每一个环节：从分析海量原始情报及筛选打击目标，到管理预算、后勤和供应链等较为常规的事务。

报导指，上述事件凸显了在战时利用这种强大、新兴且尚缺乏充分了解的技术来确定打击目标所蕴含的巨大风险。分析人士长期以来一直担心，如果国家政府依赖质量低劣或被篡改的数据，人工智能可能会导致灾难性的误判——例如，仅凭不准确的信息就导致美军向中国船只开火。

在此特定案例中，涉事分析师向一款聊天机器人询问了有关该船只船载货物清单的情报报告，该报告源自位于夏威夷的美国太平洋特种作战司令部。目前尚不清楚该聊天机器人是市面上的商用产品，还是美国政府内部开发的产品。

一位熟悉军方及情报分析师所用人工智能系统的美国前高官称：“这些内部工具大多只是商用产品的换皮版本”。

该机器人将开源情报与政府掌握的机密信号情报进行了整合，并针对这艘船只所载的物资得出了一个决定性的结论。

随后，涉事分析师再次利用人工智能将这些发现汇总成一份标准的——即受军方高层信赖的那种——情报报告，并将其分发出去。美国太平洋特种作战司令部和五角大楼均未回应置评请求。

人工智能之所以被迅速采用，是因为该技术能帮助美军更快速地作出战场决策，例如确定打击哪些目标，或决定将哪些军事资产部署到何处。官员们称，美国在整合人工智能方面绝不能落后，以防有朝一日必须与中国或其他可能在该领域抢占先机的敌手交战。

今年1月，美国战争部长赫格塞思（Pete Hegseth）发布了五角大楼的“人工智能加速战略”，旨在加快美军对人工智能的应用。该战略还推动在整个军队范围内广泛应用人工智能。

一份宣布该战略的备忘录指出，五角大楼将通过多个项目提供人工智能服务，旨在“让美国世界领先的人工智能模型直接惠及所有涉密层级的300万文职与军事人员，从而在整个战争部范围内实现人工智能实验与转型的民主化”。

然而，据多位知情美国官员透露，这项工作呈现出分散化特征：政府各部门在不同的指令与安全标准下，使用着各不相同的工具。对于如何核实这些工具生成的信息，美国政府并未制定统一的标准。鉴于军方及情报界各部门部署了种类繁多的人工智能系统，这些系统在可靠性与功能表现上也存在很大差异。

过去数周，华盛顿决策者围绕人工智能展开了激烈辩论，起因是硅谷工程师和科技公司高管发出了一系列严厉警告，称人工智能可能摆脱人类控制，甚至引发人类灭亡的后果。

然而，涉及中国船只的这一事件凸显了另一种更为迫切的风险：人类基于人工智能或其他自动化系统生成的错误或误导性信息，作出灾难性的决策。据消息人士透露，美军正迅速转向利用人工智能辅助目标锁定，而这一领域显然存在导致致命失误的风险。

对于一些资深情报官员而言——即便其中许多人总体上支持在军队内部应用人工智能——人工智能给分析人员带来了必须更快速地生成并分发情报的压力，从而增加了出错的风险。据多位消息人士透露，年轻分析师尤其如此；他们是伴随着这些工具成长起来的一代，往往更容易不加批判地信任这些工具。