中国国安部示警AI六大风险

国家安全部部长陈一新近日在《中国网信》杂志撰文指出，人工智能（AI）具有六大风险，包括系统性影响政治安全环境、大规模泄密风险等。

陈一新。（中新社）

该文章题为《全面筑牢人工智能安全屏障 推动人工智能健康有序发展》，指人工智能领域已成为全球科技竞争的主战场、大国战略博弈的新赛道，中国要加快构建人工智能安全风险防治体系，以高水平安全、高效能治理推动人工智能健康有序发展。

文中又列举了人工智能发展带来的六大风险挑战。一是系统性影响政治安全环境，“各种敌对势力和别有用心之人滥用深度伪造音视频、AI生成图文、智能水军等生成式人工智能技术，低成本、批量化炮制政治谣言、传播有害信息、煽动对立情绪，对我实施舆论战、认知战，直接威胁我政治安全、制度安全、意识形态安全。”

二是颠覆性升级网络攻防态势。文章提到，以美国科技公司近期推出的“神话”（ClaudeMythos）、“赛博”（GPT-5.5-Cyber）大模型为标志，人工智能技术正显著提升网络漏洞挖掘、恶意软件开发效率和武器化水平，网络攻防进入漏洞工业化、攻防全自动、AI对AI的新阶段。

文章指出，人工智能大幅拉低实施网络攻击的技术门槛与成本投入，对中国关键信息基础设施带来严重风险隐患。

三是规模性放大窃密泄密风险。文中提到，“国内部分用户安全意识不足，使用境外人工智能产品处理敏感信息和向境外输出数据，造成境内数据大规模外泄”。

文章又称，第四大风险是人工智能的垄断性加剧科技发展失衡，“有关国家利用在人工智能基础理论、模型架构、核心算力等方面积累的优势，以『维护国家安全』之名，通过制定实体清单、实施技术管制、垄断行业标准、建立闭源生态等手段，严格限制相关国家引进前沿技术设备、提升科技创新能力，割裂全球人工智能产业链、供应链，加剧全球智能产业发展失衡。”

第五大风险是结构性冲击社会治理体系。人工智能高速发展突破了传统技术治理框架，导致现有法律规范、伦理原则与治理机制在实践中频频滞后，难以形成有效的制度约束和监管体系。

第六大风险是根本性变革军事斗争形态。人工智能技术正在推动战争形态进入智能化时代，在美以伊冲突中，人工智能军事化应用催生情报智能融合、决策智能辅助、目标智能识别、实战智能支持、认知智能塑造，人工智能正在从战场“辅助配角”变成“关键角色”。

文章提出，面对风险，中国要坚持党的全面领导、提升体系作战合力、强化风险感知预警，建立完善人工智能安全监管平台。

文章指，要加强安全风险监测预警，深化对人工智能发展态势等重大问题的研究，科学研判新兴技术带来的潜在风险，准确把握相关规律、动向、趋势，及时堵塞漏洞隐患，定期发布安全风险防范指南，为行业企业、政府部门等各类主体提供指导。