著名AI安全学者Sören Mindermann入职清华

一位在国际人工智能安全研究领域具有重要影响力的学者，决定将他的研究重心部分转移到北京。当地时间10月20日，德国研究者Sören Mindermann在个人Substack博客发表文章《Why I‘m becoming a professor in AI safety in Beijing》，宣布自己将于11月加入清华大学人工智能学院，担任助理教授，研究前沿人工智能安全，尤其关注AI失控风险。他同时将继续担任剑桥大学人工智能科学与政策项目（CASP）的技术研究负责人，并联合领导清华大学新成立的北京人工智能安全枢纽（BASH） 。

这并非一次普通的海外学者入职。Mindermann曾担任首份《国际人工智能安全报告》的科学负责人。该报告在2023年英国AI安全峰会后启动，2025年版获得包括中国、美国在内的30个国家以及联合国、欧盟等方面的支持。他的研究成果发表于《Science》和《Nature》，其中2024年发表于《Science》的论文《Managing extreme AI risks amid rapid progress》，讨论了在AI能力快速提升的背景下如何管理极端风险。 不止于模型性能：最关心的是“失去控制” 与主要围绕模型性能、算力和商业应用展开的研究不同，Mindermann的核心研究方向是前沿AI安全，特别是当AI系统变得更自主之后，人类是否还能有效监督和控制它们。在他的研究框架中，几个具体问题值得关注：AI系统是否可能通过操纵行为规避评估和监督；当AI开始参与AI研发时，人类如何保持有效监督；以及开放权重模型的安全风险。 为什么是清华？打通中西方AI安全研究 Mindermann在文章中给出了直接的解释：目前，中国与西方在AI领域存在明显的相互理解不足，而这种隔阂可能妨碍国际社会共同应对AI风险。他认为，亲自在北京开展研究，有助于理解中国AI产业和学术界的实际情况，也能帮助中国与海外研究者建立更持续的合作关系。 清华大学人工智能学院是他做出选择的重要因素。他特别提到学院院长姚期智教授，以及共同领导BASH的清华大学交叉信息研究院副院长徐葳教授。BASH旨在为中国及国际AI安全研究者提供交流、访问和持续合作的空间，重点关注对齐、评估、可解释性和失控风险建模等方向。Mindermann表示，清华的AI学院支持基于实际影响而非论文数量的跨学科研究，这与他所了解的一些美国同行认为学术界已失去对AI发展影响力的看法形成对比。

不只是来华任教，将继续参与国际研究网络 这次任职的另一个重要细节，是Mindermann并没有放弃原有的国际研究网络。他将继续担任剑桥大学CASP的技术研究负责人，这种安排有望使清华的研究工作与剑桥的学术及政策研究保持联系。与此同时，他已经开始招募清华的博士生、博士后及其他研究人员，并为BASH招募访问研究人员和驻留项目成员。 从其公开的研究计划看，接下来的工作将集中在AI失控风险建模、AI驱动的自动化研发、开放权重模型安全，以及不同国家如何验证AI安全承诺等方向。Mindermann也坦言，搬到北京意味着要面对语言、制度和生活环境的适应问题，但他希望与中国研究者共同确定值得研究的问题，而不是直接移植一套现成的西方研究方案。