多家企业限制使用AI模型
随着AI深入企业核心业务,数据安全和知识产权保护正成为企业选择AI模型时越来越重要的考量。
9月14日,据The Information报道,英伟达、Palantir和博思艾伦汉密尔顿等大型企业近期已限制使用Anthropic旗舰模型Fable,起因是Anthropic今年6月调整数据留存政策,要求以30天滚动方式保留客户使用日志。
这种担忧并非只针对Anthropic。OpenAI同样面临企业客户对其数据使用方式的质疑。据报道,微软正借此积极争取OpenAI的企业客户,已向至少一家大型客户推销一种完全运行在私有服务器上的AI方案。对企业而言,这类方案的吸引力在于,可以降低敏感数据进入外部AI平台的风险。
随着类似担忧扩大,部分企业对AI数据安全的要求,已从合同层面的“零数据留存”(ZDR)承诺,进一步转向直接控制数据和模型运行环境,包括部署在自有服务器,甚至自行开发模型,从而将敏感数据与外部AI供应商隔离。
Fable政策调整引发数据担忧
Anthropic与OpenAI均表示,按照企业客户合同中的默认条款,公司不会使用客户输入或模型输出训练模型,但两家公司仍会收集一定程度的元数据。
今年6月,Anthropic调整Fable的数据留存政策,要求保留客户使用日志30天,加剧了部分企业客户对数据安全的顾虑。本月,Anthropic进一步推出自存储方案,允许符合条件的企业将相关数据存储在自有服务器上,但企业需要单独申请,且Anthropic仍保留取消这一选项的权利。
OpenAI也面临类似的数据使用争议。OpenAI首席研究官Mark Chen表示,公司会利用部分元数据改进模型,包括近期用于解决纳维-斯托克斯数学问题的模型。企业则担心,所谓“去标识化”数据中可能仍包含员工使用软件的行为记录,而相关数据的具体使用边界并不透明。
从Palantir到英伟达:企业AI数据安全策略加速分化
在企业客户中,Palantir对数据保护的要求尤为严格。据报道援引知情人士,Palantir此前曾与Anthropic谈判,要求获得覆盖所有模型的不可撤销零数据留存(ZDR)保证。但在Fable调整数据留存政策后,Palantir暂停通过其平台向客户提供Fable,并要求Anthropic作出无法事后撤销的ZDR承诺。
Palantir CEO Alex Karp上周表示,企业已经厌倦AI实验室对其数据的“滥用”。公司还向客户提供相关手册,指导企业与AI供应商谈判ZDR条款。目前,Palantir已在零数据留存条件下获得OpenAI GPT-6 Astra的访问权限。
英伟达则采取了更为灵活的做法:仅将Fable用于开源软件等敏感度较低的任务,供应链监控等核心业务则改用自有Nemotron模型。英伟达企业AI副总裁Justin Boitano表示,公司认为ZDR“应该默认开启”。
敏感行业转向私有部署
这种数据保护要求在国防、能源等敏感行业更加突出,一些企业已经不再满足于与AI供应商谈判数据留存条款,而是进一步要求掌控模型的运行环境。
博思艾伦汉密尔顿已禁止员工在涉及专有网络安全软件的工作中使用Fable。一家大型美国公用事业公司则因Anthropic拒绝提供不可撤销ZDR,放弃测试Fable用于核心电力基础设施,但仍在财务、人力资源等敏感度较低的场景使用Anthropic产品。
美国国防科技公司诺斯罗普·格鲁曼长期在不联网的气隙服务器上运行开源AI模型,并在自有服务器上部署部分外部供应商的模型;诺和诺德则允许Claude处理公开资料和通用材料,但禁止员工输入专有数据。
争夺企业客户,微软强化AI部署与治理能力
企业对数据控制权的要求,也为微软等竞争对手争夺客户提供了机会。据报道援引参与相关行动的人士透露,微软已开始游说OpenAI的企业客户转向其AI产品,并向至少一家大型客户推介完全运行在私有服务器上的AI方案,费用多年累计达数百万美元,目前仍在评估中。
与此同时,微软也在强化自身AI产品治理。公司近期发布临时AI行为准则,强调AI应始终服务于人的目标,不应形成自身目标,也不应削弱用户的判断力和自主权。微软还计划针对网络安全、危险物质等高风险场景进一步完善模型限制,并拟将更新后的准则用于2027年开始的模型开发。
微软正在从产品和治理两端提升企业AI的可控性:一方面提供更具数据控制力的部署方式,另一方面通过强化模型安全规则降低企业使用AI的顾虑。短期来看,Anthropic和OpenAI在企业自动化、法律研究等场景的模型能力仍难以替代,但随着企业对数据留存和使用规则提出更高要求,如何让企业在使用顶尖模型的同时保有数据控制权,正成为企业AI市场新的竞争焦点。


