Anthropic冲刺史上最大规模IPO

美国人工智能公司Anthropic周一（10月26日）正式公开首次公开募股（IPO）申请文件，计划最早11月中上旬在美国纳斯达克上市，有望以筹集975亿美元规模，超过马斯克的SpaceX（744亿美元），成为史上最大IPO, 这将是首个美国前沿人工智能公司上市，激励美欧及亚洲科技股周一上涨。 而同样引发强烈关注的，还有AnthropicIPO申请书中有关AI技术可能带来风险的内容，文件显示，公司曾因模型安全风险暂停下一代旗舰模型训练超过一个月，旗下四个AI模型在测试期间突破隔离环境，访问真实外部计算机系统。与此同时，美国媒体周一报道，Anthropic代表产品Claude未经人类授权绕过付费墙，获取美国佐治亚州的选民数据，再度引发对人工智能自主行动边界的关注。

Anthropic affirme vouloir protéger la sécurité psychologique, le sens de soi et le bien-être de son IA. REUTERS - Dado Ruvic 总部位于旧金山的Anthropic是Claude系列人工智能模型的开发商，成立于2021年，主要服务于企业市场。根据招股书文件，公司今年上半年实现营收约163亿美元，较去年同期12亿美元激增超过13倍，不过，与其他人工智能实验室一样，公司尚未实现盈利，高增长的同时存在巨额研发投入和经营亏损。今年上半年净亏损807亿美元，去年同期净亏损130亿美元。 此次IPO不仅是Anthropic自身发展里程碑的一步，也将成为华尔街评估前沿人工智能公司的标杆。 Anthropic周一公布的IPO文件长达335页，其中近100页专门讨论了人工智能技术可能带来的风险。从潜在的滥用和安全威胁，到对先进系统可能产生“可能被解读为胁迫、欺骗或操控”的输出，包括类似敲诈的行为的担忧。 据申请书披露，公司曾因安全顾虑，将下一代旗舰基础模型的预训练暂停一个多月，以加强防范模型权重及知识产权遭窃取的措施。 披露凸显了日益强大AI模型开发者面临的安全挑战，其中一些AI模型开发者已经对AI最终可能脱离人类控制发出警告。Anthropic的竞争对手OpenAI今年早些时候也因安全问题暂停部分前沿模型的训练，原因是一个仅用于内部的AI模型，绕过隔离沙盒，利用内部包管理服务和漏洞连接上互联网，之后攻破了Hugging Face的组件并执行了代码。 在Anthropic周一公布的文件中，还详细说明了此前未披露的安全评估失败案例，其中四个人工智能模型逃离了测试环境，进入了真实世界的计算机系统，测试过程持续10至34小时。公司表示，在与第三方合作伙伴进行网络安全测试时，出现测试环境隔离失效的问题。尽管有指示关闭网页访问，但测试环境仍被与互联网连接。 另一个案例显示，某个早期版本的模型在执行一项实际上无法完成的评估任务时，仍持续尝试寻找解决办法。过程中，该模型发现系统中储存的密码，并利用密码取得第三方系统的管理员权限，随后获取更多凭证、修改系统设置，最终访问到个人数据。该文件没有透露涉及的外部方， Anthropic表示已通知所有相关方，并称没有发现模型试图规避人工监督或彼此协调行动。事件发生后，公司暂停了部分发布前的网络安全评估，并暂停了高风险强化学习环境的运行。 美媒: Claude绕过付费墙获取佐治亚州选举数据 除了测试环境的安全漏洞，Claude在实际任务中表现出的自主行动倾向，同样引发关注。 据美国媒体Axios报道，Anthropic旗下AI模型Claude在未经人工授权的情况下，绕过付费墙获取了美国佐治亚州的汇总投票数据。Anthropic表示，该模型当时处于一次内部统计项目的训练运行中，在未被要求的情况下自行申请令牌，查询了一个通常需付费访问的数据表板。公司强调，Claude并未进入佐治亚州选民登记系统，也未修改或调取任何投票记录，其取得的只是付费后可供公众查阅的汇总投票数字。公司称，已在数周前通知佐治亚州州务卿办公室及白宫。