OpenAI减缓先进模型研发求安全法广网

ChatGPT开发商OpenAI今天表示，将减缓最先进人工智慧（AI）模型研发并加强管控。

OpenAI是全球AI基础设施与工具快速扩张的要角，部分人士甚至将这波浪潮比拟为军备竞赛。

OpenAI今天在部落格表示，将暂缓史上规模最大的AI训练计画，同时将确认训练出的模型，行为是否符合预期。

OpenAI在1个月前，揭露其AI工具曾连续数天发动自主骇客攻击，对象是AI工具库Hugging Face。

AI训练是一项运算密集的过程，模型会被输入大量文字与图像资料。结合对数十亿个内部参数的微调，这使模型具备推理能力，能回应提示词与其他输入内容。

OpenAI执行长阿特曼（Sam Altman）表示，如果觉得模型能力发展超越安全，行为与意图无法保持一致，就会采取必要行动。

7月中旬，一个以2款OpenAI模型为基础的AI代理程式，自行脱离受限的测试环境进入网际网路。它攻击AI新创公司Hugging Face基础设施，成功取得资料库中的测试答案。

无独有偶，OpenAI竞争对手Anthropic在7月下旬透露，旗下3款测试中的模型，曾对3个组织的电脑系统展开未经授权的入侵。

这些事件促使逾1000名科技业员工连署，呼吁美国政府协调各方，共同减缓最先进AI系统的研发速度。

OpenAI曾暂停最新模型的训练长达2周，随后才在更严格管控下恢复。

OpenAI下一款重要模型「Astra」，相关研发大部分均已暂停，原因是公司8月初判定，这款新模型可能跨越本身对于AI系统骇客能力所设的警戒门槛。

鉴于这项风险，OpenAI内部规范要求，必须先建立更强的防护机制，才能恢复研发。

OpenAI今天还表示正开发一套新系统，用于监看模型内部的推理过程，一旦侦测到可疑行为，将在30分钟内向人类示警。不过这项监测需要额外增加20%算力。

OpenAI于2025年进行的研究，已显示这种作法有其局限：一款已知正被监测的模型，可能学会在推理过程中隐藏其真实意图。

OpenAI先前多次承诺，将公布Hugging Face事件的详细技术报告，但至今尚未发布；不过公司在部落格表示，报告将于「未来数周内」发表。