陶哲轩、邓煜等联名警告:AI正在“偷”走灵魂

赛先生 · 经八阕原文

包括陶哲轩、邓煜在内的25位菲尔兹奖得主9月11日发表联署声明,警告当前AI介入数学的方式“严重错位”,并表示AI对重大数学问题解答的“仓促宣布”,会引发严重的“归属权与抄袭问题”。此类行为在传统学术规范下通常被视为学术不端;但当宣布主体是AI而非具体研究者时,既有的追究机制尚无对应框架。

图源:pixabay

9月11日,陶哲轩、邓煜等25位来自不同国家、不同研究领域的菲尔兹奖得主联合发起并签署声明《人工智能在推进数学研究中的严重目标错位》(A Severe Misalignment of AI in Mathematics)。声明强调,人工智能公司试图将解决数学问题视为其发展的里程碑,这与数学共同体的目标严重不符。

声明指出,数学研究的目标绝不仅仅是解决问题,这只是一种工具和途径,数学研究追求的是对概念的理解与洞察力。

截止到发稿,已有3120位全球各地的数学家联署这一声明。

菲尔兹奖得主陶哲轩。图源:wikipedia

这一声明的导火索,或源于AI公司接连冲击数学难题,甚至在数学家不知情的情况下,未经许可使用到数学家与AI互动的数据和思考过程。

在该声明发表前几天,纽约大学柯朗数学科学研究所数学教授特里斯坦·巴克马斯特(Tristan Buckmaster)于9月7日声明,指控OpenAI在他与合作者未发表的研究基础上,指控OpenAI在他与合作者未发表的研究基础上,希望发布一份由AI独立完成的证明,并要求弱化二人的署名,把整件事包装成AI独立解题的里程碑。

纽约大学柯朗数学科学研究所数学教授Tristan Buckmaster。图源:nyu.edu

约12小时后,OpenAI以公司独立署名发布了一份关于纳维-斯托克斯方程(Navier-Stokes equations,简称N-S方程)存在性与光滑性问题的证明,并公开了Lean形式化代码。这是克雷数学研究所(Clay Mathematics Institute)七个千禧年大奖难题之一,每题悬赏 100 万美元,此前只被解决过一个。

OpenAI称,这个证明是由其内部系统中约一万个智能体协同工作88小时后得到的结果。它表明,在静止状态下初始平滑的流体,可以在有限时间内形成奇点。随后GPT-6 Astra有用17小时将证明形式化为Lean代码并验证。

在既有学术规范下,未告知使用他人未发表的研究进展、抢先发布成果、并要求原研究者配合弱化署名,通常会被视为严重的学术不端。

英国伦敦某大学数学系工作的刘博士在接受《赛先生》采访时表示,“在学术界,如果我的文章里或者正在进行的研究中有一些原创的新想法,那么这些内容是属于我自己的。别人听我讲了这个想法后据此写了文章,某种意义上是抢了我的工作,从学术道德上讲,这是非常恶劣的行为。甚至如果他直接讲出我的想法,声称这是自己的结果,这是更加严重的剽窃行为。”

而巴克马斯特事件呈现出一个既有学术规范尚未处理的结构性问题:当抢先发布他人未发表研究的一方是AI模型,追究的对象是谁?

数学家质疑AI公司使用自己的未发表数据

“我询问OpenAI,他们的模型是否基于我们在Codex中的对话信息进行训练,或者能否访问这些信息,我们在整个项目进行的过程中,一直将所有的草稿都放在Codex中。我得到的答复是,该模型不会查阅用户数据,我再次追问关于训练的问题,但没有得到答复。”巴克马斯特在声明中写道。

这是巴克马斯特对于OpenAI声称独立完成N-S方程证明的核心质疑。

巴克马斯特长期研究流体方程中的奇点形成。

9月3日,他公布了与合作者莱文特·阿尔珀格(Levent Alpöge)的三项流体方程研究成果,以及次耗散N-S方程的爆破证明正在等待Lean形式化验证这一情况。

他在声明中表示,他和阿尔珀格于8月15日取得实质性进展。他们获得了带光滑外力的二维Boussinesq方程和三维不可压缩欧拉方程的爆破结果,8月22日完成Lean验证。他还表示已经获得了次耗散N-S方程的爆破结果,但由于形式化尚未完成,所以没有发布。

巴克马斯特声明,他与阿尔珀格的合作完全基于个人关系,不涉及任何机构或官方合作。他们的研究路线源于迭戈·科尔多瓦(Diego Córdoba)和路易斯·马丁内斯-索罗亚(Luis Martínez-Zoroa)多年来对受迫流体方程奇点的研究,在此过程中使用Anthropic公司的Claude以及OpenAI的Codex等多种工具。

来源:赛先生(经八阕转载) · 查看原文
Scroll for more