Ilya曝光70页OpenAI绝密文件

梦瑶 发自 凹非寺量子位 | 公众号 QbitAIIlya偷拍备份的OpenAI机密文件刚刚曝光。70页内部证据、200页私人笔记偷拍视频、绕开公司系统、用阅后即焚的方式传递消息甚至上来直接一个大暴击Sam Altman撒谎成性大声.jpg)《纽约客》刚刚披露这一事件详情里面的内容堪称抓马从OpenAI董事会到微软高级高管跨越20年、横跨多个组织大家对奥特曼的核心评价几乎都是撒谎成性。OpenAI的非营利使命要求CEO必须具备诚信的品质但Ilya后来发现奥特曼恰恰不具备这种品质甚至恰恰相反…奥特曼被解雇后的5天在自家豪宅搞了个宫斗备战室资本、员工、舆论三线齐发最终董事会无力抵抗宫斗事件之后奥特曼不仅没有收敛反而加速了安全承诺的瓦解SuperAlignment团队被边缘化。谁成想呢本以为再无瓜葛的硅谷甄嬛传奥特曼和llya的爱恨情仇又又又更新了。为啥OpenAI首席科学家要用间谍片手法搜集CEO的罪证这份备忘录里到底写了什么让董事会成员回忆时只说了三个字——“He was terrified”准备好瓜子儿大家伙儿边嗑边看吧…(太精彩了太精彩了太精彩了…)llya偷拍70页OpenAI秘密文件曝光山姆·奥特曼撒谎成性只能说OpenAI从一开始就给自己设了一道几乎不留余地的门槛。这份70页机密备忘录中提到OpenAI从创建之初的时候就被被设计成一个的安全性拉满的组织——非营利结构、董事会优先对人类负责甚至在极端情况下可以牺牲公司本身。也正因如此具备公共利益的性质所以OpenAI对于CEO的要求同样具备一定特殊性那就是必须非常非常非常非常的有信用。好巧不巧问题恰恰出在这里。2019年Ilya还在OpenAI办公室的时候为Greg Brockman主持婚礼甚至安排了一只机械手来担任捧环人。那个时候技术、理想、人与人之间的信任看起来是统一的但随着模型能力不断临界线他开始重新思考同一个问题如果这项技术真的被做出来谁在控制它他的答案变得越来越明确甚至冷静到只剩一句判断“我不认为奥特曼是那个能为OpenAI拍板儿的人。”理由嘛——llya倒不是怀疑奥特曼能力有问题主要吧还是怀疑这个人的人性…于是乎接下来llya的一系列操作只能说已经不太像一家科技公司的内部讨论了正如我们看到的70页材料被系统整理出来包含Slack记录与内部文件关键内容用手机拍下刻意避开公司设备再通过会自动消失的消息发送给董事会。一位收到材料的董事后来回忆看到这个大爆料的时候他直言我是真被吓得没边了…5天宫斗从F1赛场到豪宅备战室在Ilya那份70页机密备忘录里当年的OpenAI宫斗事件被还原得更加具体也更抓马。doge而且这事儿的开端本身就带着一点《荒诞感》——当时奥特曼人在拉斯维加斯看F1被一通视频电话叫走电话那头儿Ilya读了一段极其简短的声明——他奥特曼已经不再是OpenAI的CEO。没有铺垫也没有证据披露更离谱的是连微软里德·霍夫曼这种级别的核心投资人事前也完全不知情。甚至一度以为是挪用资金这种级别的大雷结果啥也没查到听到自己被“斩立决”的消息当晚奥特曼直接连夜在自己豪宅里直接搭起了一个堪称“拯救奥特曼”主题的临时指挥部。△图片由AI生成奥特曼的目的是迅速推进三件事第一资本施压。Thrive冻结关键投资微软直接放话可以另起炉灶你们可以换CEO但OpenAI也可以从此消失。第二员工站队。联名信迅速扩散几乎全员签字甚至连临时接任CEO、最初站在董事会一侧的Murati最终也倒向奥特曼签下支持回归的联名信。紧接着便是舆论失控。董事会选择沉默奥特曼一方持续释放信息掌控舆论大局。结果嘛就是Ilya最后也不得不松口如果奥特曼不回来公司可能会直接崩掉。五天之后结局落定—奥特曼回宫董事会出局。甚至OpenAI内部员工还给这场硅谷史上最经典的宫斗反转起了个名字——The Blip意为“小插曲”或“短暂失常”。The Blip之后安全承诺开始崩塌The Blip结束后OpenAI所发生的变化没有停在权力层面那套用来“限制权力”的机制开始逐步松动。最先出问题的是资源。OpenAI曾对外承诺会拿出20%的算力用于长期安全研究这是OpenAI当时最核心的安全底牌。但实际执行很快变了味儿——算力占比一路下滑到1%-2%分到的还是最老的集群、最差的芯片。当负责人Jan Leike提出异议时得到的回应是这件事从一开始就不现实。从优先事项变成象征性存在安全开始失去真正的投入。第二步就是流程开始被绕开。在OpenAI里原本涉及高风险能力的发布正常应该需要经过安全委员会审核。但在后续产品迭代中一些争议最大的功能都没有走完整审批流程就直接上线甚至连地区版本的产品也在安全评估尚未完成的情况下发布。流程不流程的似乎也没那么重要了…)第三步是调查失去约束力。事实上董事会风波之后OpenAI请来了一家参与过多起公司丑闻调查的律所“WilmerHale”做独立调查。按这家律所的正常工作流程和外界普遍预期来说OpenAI的事情会有一份正式、可追溯的书面报告。但最终的结果是——没有报告。doge调查结论只以口头形式汇报给新董事会而不写报告的建议恰恰来自奥特曼参与选择的董事的私人律师。三件事儿——先削资源再松流程最后弱化调查。看起来每一步都是轻微调整但是吧当系统可以绕过限制限制本身也就不再存在了。20年前就有人看透了山姆·奥特曼u1s1围绕奥特曼好的坏的一箩筐评价并不是在OpenAI才出现的。事实上跨越20年、横跨多个组织对奥特曼的核心评价惊人一致那就是——这小子嘴里忒没实话干事儿忒不着边儿。doge最早的一次可以追溯到2013年。当时已故的天才程序员Aaron Swartz在私下对朋友留下过一句对奥特曼非常极端判断你必须明白奥特曼这个人永远不值得信任他是个反社会人格的人为了目的什么都做得出来。他第一次创业阶段问题已经出现。公司内部员工曾两次推动董事会撤换他甚至需要投资人亲自下场在公司里盯着他。到了后来当他开始进入更核心的创业与投资圈层问题开始升级——从内部矛盾变成信任危机。内部有人后来直接承认奥特曼一直在隐瞒事情比如对外公告不断修改说法 职位描述一改再改甚至最后干脆删除等等。但在正式的监管文件里他依然被标注在原来的位置上换句话说就是表面在变化实际关系却没有同步调整。这些分散在不同阶段的口碑到了OpenAI开始集中爆发——董事会成员给出的评价是他不受事实的约束甚至奥特曼还被大家形容为对欺骗可能带来的后果缺乏基本顾虑。而另一位高管给出的说法是他未来有可能会被放进那些重大商业丑闻人物的序列中被讨论。喜欢写日记的不正经人还有一个后来成为Anthropic CEO的Dario Amodei也留下了200多页笔记内容笔记中包含大量对于OpenAI和奥特曼本人的评价。尽管和llya算不上啥关系多好的朋友但是吧人家和Ilya得出了同一个结论——那就是OpenAI内部出现的一箩筐问题不在公司系统本身而是奥特曼本人有问题。甚至Amodei的措辞更为激烈对奥特曼的评价是——他说的话几乎可以确定是胡扯咋说呢来源不同、阶段不同但指向高度一致。更微妙的是别看差评如此之多架不住奥特曼自己的腰板直在被质疑时人家奥特曼只是说不好意思哈我无法改变我的性格好牛的精神状态最后颇值得一提的是在llya的70页机密备忘录中还有个蛮值得一瞧的事情那就是——在OpenAI的办公区里”Feel the AGI”的标语随处可见。这句话最早是Ilya用来警告同事AGI风险的但是吧The Blip宫变事件之后变成了庆祝未来的口号。这多少有点地狱级笑话了啊llya我OMT家人们这瓜还没完。就在刚刚曝光此备忘录的《纽约客》记者在x上表示当他们想采访“研究AI生存风险”的研究员时OpenAI官方回应是你说的存在性安全是啥这东西压根不存在哈但是吧还得是OpenAI说归说做归做这是两码事儿就在这篇调查报告发布几个小时后 OpenAI刚巧推出了支持安全研究的项目。doge还得是OpenAI还得是奥特曼。llya这下你们知道我说的都是实话了吧这奥特曼是真说一套做一套啊—完— 风云变幻的Q1谁是AI超级应用量子位智库「AI 100」旗舰、创新双产品榜单开启招募扫码申报让你的产品成为季度风向标。