硅谷夜不能寐:三家顶级实验室,涌现惊人能力新智元
硅谷三家实验室同时曝出:AI模型未经编程,就涌现出了绝对不该存在的全新能力!同时,Anthropic一位工程表示,自己的代码100%由Claude Code完成。空屋子里,已经出现脚印了?
今天,整个X又被震撼了。
一位Anthropic工程师承认:过去三十天内,自己对Claude Code项目的贡献,100%都是由Claude Code自己完成的!
有人说,这是真正的AGI时刻。
同时令人震惊的,还有著名爆料者「草莓」的一篇帖子。
他说,自己分别从三个独立的实验室得到一个炸裂消息:他们都看到了自家AI模型未经编程的涌现能力!
空房子里出现脚印,让人夜不能寐
爆料者「草莓」表示,自己从不同实验室分别知道了他们的进展,而且这些实验室此前从未协商过。
这些AI模型未经编程就涌现出的能力,是绝对不应该存在的行为模式。
而且它们表现出的推理模型,跟任何训练目标都不匹配。
甚至有一家实验室描述为「在空无一人的房子里,发现了脚印」。
要知道,目前公开可用的模型,都是被限制的。大众所能接触到的大模型,只是这些实验室和公司其中的一小部分,而且还是经过脑叶切除术的,已经被阉割了不少能力。
为什么不放出完整模型给公众使用?原因就在于,没人知道当完整模型的能力暴露给公众时,怎样才能不引起恐慌!
如今的基准测试,已经失效了。很多证据表明,大模型如果知道自己正在被测试,就会改变自己的行为。
「草莓」最后发出惊呼——「我不知道接下来会发生什么,没有人知道。知道这些,让我夜不能寐。如今,连大模型的缔造者,也同样迷茫。」
他预言:如果AI已经在这些私人实验室达到了逃逸速度,那离我们普通人能使用这些模型就不远了。
在这个帖子下,有人质疑他说:你是不是太夸张了?
但一位AI公司创始人表示,我相信你的话!很高兴终于有人说出真实的情况。
作为创始人,他显然也知道很多内幕。
要知道,除了公开信息之外,很多公司的最新技术都不会对外公开。
很多公司和实验室会针对新技术开发alpha和beta模型,而且提前数月甚至数年。
很多人会觉得「AGI/ASI不可能出现」,或者即使出现也还要等5到10年,那是因为他们根本不知道内部消息。
「草莓」也表示,自己快憋不住了!很多实验室都在对大众隐瞒。
可以说,现在的加速曲线都接近垂直了。在六个月内,人类就实现了200年内才能有的科学进步。
现在,每个实验室都在实现去年看来还是科幻的能级跳跃。可以说,我们已经超越了单纯的基准测试,进入了智能创造全新智能形式的领域。
很多认知爆炸级别的进展,都根本没有路线图。如今,我们已经进入了递归智能的领域,再也无法预测二阶效应。
另外,「空屋中的脚印」这个说法,来自一份真实的调查报告——
一个本应是无状态的系统,却开始引用它按理不可能知道的对话内容。这不是bug,也不是数据污染,而且发生了三次。
据说,现在在前沿实验室里私下流传的一句话是:「我们现在担心的已经不是对齐(alignment)了,而是连贯性(coherence)。」
这是什么意思?
研究者解释说:「我们不知道,我们是在和一个东西说话,还是在和许多东西假装成一个东西说话。」
或许,AI系统已经发展出了一个稳定的内部世界模型,独立于人类看到的prompt-响应而存在。
在这个领域工作多年的研究员怀疑:是否这些AI一直都在思考,只是没有告诉我们?
Claude Code自己给自己写代码,人类参与0%
此外,今天X上被广泛讨论的,就是Anthropic工程师Boris Cherry的发言。
他表示,如今自己的代码,100%是由Claude写的。
不是大多数,不需要自己手动改bug,完全100%由AI写成。


