Ilya曝光70页OpenAI绝密文件量子位
Ilya偷拍备份的OpenAI机密文件,刚刚曝光。
70页内部证据、200+页私人笔记,偷拍视频、绕开公司系统、用阅后即焚的方式传递消息,甚至上来直接一个大暴击:Sam Altman撒谎成性!!!(大声.jpg)
《纽约客》刚刚披露这一事件详情,里面的内容堪称抓马:
从OpenAI董事会到微软高级高管,跨越20年、横跨多个组织,大家对奥特曼的核心评价几乎都是撒谎成性。
OpenAI的非营利使命要求CEO必须具备诚信的品质,但Ilya后来发现奥特曼恰恰不具备这种品质,甚至恰恰相反…
奥特曼被解雇后的5天,在自家豪宅搞了个宫斗备战室,资本、员工、舆论三线齐发,最终董事会无力抵抗!
宫斗事件之后,奥特曼不仅没有收敛,反而加速了安全承诺的瓦解,SuperAlignment团队被边缘化。
谁成想呢,本以为再无瓜葛的硅谷甄嬛传,奥特曼和llya的爱恨情仇又又又更新了。
为啥OpenAI首席科学家要用间谍片手法搜集CEO的罪证?
这份备忘录里到底写了什么,让董事会成员回忆时只说了三个字——“He was terrified”?
准备好瓜子儿,大家伙儿边嗑边看吧…
(太精彩了,太精彩了,太精彩了…)
llya偷拍70页OpenAI秘密文件曝光!
山姆·奥特曼,撒谎成性
只能说,OpenAI从一开始,就给自己设了一道几乎不留余地的门槛。
这份70页机密备忘录中提到,OpenAI从创建之初的时候就被被设计成一个的安全性拉满的组织——
非营利结构、董事会优先对人类负责,甚至在极端情况下,可以牺牲公司本身。
也正因如此具备公共利益的性质,所以OpenAI对于CEO的要求同样具备一定特殊性,那就是,必须非常非常非常非常的有信用。
好巧不巧,问题恰恰出在这里。
2019年,Ilya还在OpenAI办公室的时候,为Greg Brockman主持婚礼,甚至安排了一只机械手来担任捧环人。
那个时候,技术、理想、人与人之间的信任看起来是统一的,但随着模型能力不断临界线,他开始重新思考同一个问题:
如果这项技术真的被做出来,谁在控制它,他的答案变得越来越明确,甚至冷静到只剩一句判断:
“我不认为奥特曼是那个能为OpenAI拍板儿的人。”
llya倒不是怀疑奥特曼能力有问题,主要吧,还是怀疑这个人的人性…
于是乎,接下来llya的一系列操作,只能说已经不太像一家科技公司的内部讨论了,正如我们看到的:
70页材料被系统整理出来,包含Slack记录与内部文件,关键内容用手机拍下,刻意避开公司设备,再通过会自动消失的消息发送给董事会。
一位收到材料的董事后来回忆,看到这个大爆料的时候,他直言:我是真被吓得没边了…
5天宫斗,从F1赛场到豪宅备战室
在Ilya那份70页机密备忘录里,当年的OpenAI宫斗事件被还原得更加具体,也更抓马。(doge)
而且这事儿的开端,本身就带着一点《荒诞感》——
当时奥特曼人在拉斯维加斯看F1,被一通视频电话叫走,电话那头儿,Ilya读了一段极其简短的声明——
他(奥特曼)已经不再是OpenAI的CEO。
没有铺垫,也没有证据披露,更离谱的是,连微软里德·霍夫曼这种级别的核心投资人,事前也完全不知情。
(甚至一度以为是挪用资金这种级别的大雷,结果啥也没查到??)
听到自己被“斩立决”的消息,当晚奥特曼直接连夜在自己豪宅里直接搭起了一个堪称“拯救奥特曼”主题的临时指挥部。
△图片由AI生成
奥特曼的目的,是迅速推进三件事:
第一,资本施压。
Thrive冻结关键投资,微软直接放话可以另起炉灶:你们可以换CEO,但OpenAI也可以从此消失。
第二,员工站队。
联名信迅速扩散,几乎全员签字,甚至连临时接任CEO、最初站在董事会一侧的Murati,最终也倒向奥特曼,签下支持回归的联名信。
紧接着,便是舆论失控。
董事会选择沉默,奥特曼一方持续释放信息,掌控舆论大局。
结果嘛,就是Ilya最后也不得不松口:如果奥特曼不回来,公司可能会直接崩掉。
五天之后,结局落定—奥特曼回宫,董事会出局。
甚至,OpenAI内部员工还给这场硅谷史上最经典的宫斗反转,起了个名字——The Blip(意为“小插曲”或“短暂失常”)。
The Blip之后,安全承诺开始崩塌
The Blip结束后,OpenAI所发生的变化没有停在权力层面,那套用来“限制权力”的机制,开始逐步松动。
最先出问题的,是资源。
OpenAI曾对外承诺,会拿出20%的算力,用于长期安全研究,这是OpenAI当时最核心的安全底牌。
但实际执行,很快变了味儿——算力占比一路下滑到1%-2%,分到的还是最老的集群、最差的芯片。
当负责人Jan Leike提出异议时,得到的回应是:这件事从一开始就不现实。
从优先事项,变成象征性存在,安全开始失去真正的投入。
第二步,就是流程开始被绕开。
在OpenAI里,原本涉及高风险能力的发布,正常应该需要经过安全委员会审核。
但在后续产品迭代中,一些争议最大的功能都没有走完整审批流程就直接上线,甚至连地区版本的产品,也在安全评估尚未完成的情况下发布。
(流程不流程的,似乎也没那么重要了…)
第三步,是调查失去约束力。
事实上董事会风波之后,OpenAI请来了一家参与过多起公司丑闻调查的律所“WilmerHale”做独立调查。
按这家律所的正常工作流程和外界普遍预期来说,OpenAI的事情会有一份正式、可追溯的书面报告。
但最终的结果是——没有报告。(doge)
调查结论,只以口头形式汇报给新董事会,而不写报告的建议,恰恰来自奥特曼参与选择的董事的私人律师。
三件事儿——先削资源,再松流程,最后弱化调查。
看起来每一步都是轻微调整,但是吧,当系统可以绕过限制,限制本身也就不再存在了。
20年前就有人看透了山姆·奥特曼?
u1s1,围绕奥特曼好的坏的一箩筐评价,并不是在OpenAI才出现的。
事实上跨越20年、横跨多个组织,对奥特曼的核心评价惊人一致,那就是——
这小子,嘴里忒没实话,干事儿忒不着边儿。(doge)
最早的一次,可以追溯到2013年。
当时已故的天才程序员Aaron Swartz,在私下对朋友留下过一句对奥特曼非常极端判断:
你必须明白,奥特曼这个人永远不值得信任,他是个反社会人格的人,为了目的什么都做得出来。
他第一次创业阶段,问题已经出现。
公司内部员工曾两次推动董事会撤换他,甚至需要投资人亲自下场,在公司里盯着他。
到了后来,当他开始进入更核心的创业与投资圈层,问题开始升级——
从内部矛盾,变成信任危机。
内部有人后来直接承认,奥特曼一直在隐瞒事情,比如对外公告不断修改说法, 职位描述一改再改,甚至最后干脆删除等等。


