Ilya 偷拍備份的 OpenAI 機(jī)密文件，剛剛曝光。
70 頁內(nèi)部證據(jù)、200+ 頁私人筆記，偷拍視頻、繞開公司系統(tǒng)、用閱后即焚的方式傳遞消息，甚至上來直接一個大暴擊：
Sam Altman 撒謊成性！！！（大聲 .jpg )
《紐約客》剛剛披露這一事件詳情，里面的內(nèi)容堪稱抓馬：
從 OpenAI 董事會到微軟高級高管，跨越 20 年、橫跨多個組織，大家對奧特曼的核心評價幾乎都是撒謊成性。
OpenAI 的非營利使命要求 CEO 必須具備誠信的品質(zhì)，但 Ilya 后來發(fā)現(xiàn)奧特曼恰恰不具備這種品質(zhì)，甚至恰恰相反…
奧特曼被解雇后的 5 天，在自家豪宅搞了個宮斗備戰(zhàn)室，資本、員工、輿論三線齊發(fā)，最終董事會無力抵抗！
宮斗事件之后，奧特曼不僅沒有收斂，反而加速了安全承諾的瓦解，SuperAlignment 團(tuán)隊被邊緣化。
為啥 OpenAI 首席科學(xué)家要用間諜片手法搜集 CEO 的罪證？
這份備忘錄里到底寫了什么，讓董事會成員回憶時只說了三個字—— "He was terrified"？
準(zhǔn)備好瓜子兒，大家伙兒邊嗑邊看吧…
( 太精彩了，太精彩了，太精彩了… )
llya 偷拍 70 頁 OpenAI 秘密文件曝光！山姆 · 奧特曼，撒謊成性
只能說，OpenAI 從一開始，就給自己設(shè)了一道幾乎不留余地的門檻。
這份 70 頁機(jī)密備忘錄中提到，OpenAI 從創(chuàng)建之初的時候就被被設(shè)計成一個的安全性拉滿的組織——
非營利結(jié)構(gòu)、董事會優(yōu)先對人類負(fù)責(zé)，甚至在極端情況下，可以犧牲公司本身。
也正因如此具備公共利益的性質(zhì)，所以 OpenAI 對于 CEO 的要求同樣具備一定特殊性，那就是，必須非常非常非常非常的有信用。
好巧不巧，問題恰恰出在這里。
2019 年，Ilya 還在 OpenAI 辦公室的時候，為 Greg Brockman 主持婚禮，甚至安排了一只機(jī)械手來擔(dān)任捧環(huán)人。
那個時候，技術(shù)、理想、人與人之間的信任看起來是統(tǒng)一的，但隨著模型能力不斷臨界線，他開始重新思考同一個問題：
如果這項技術(shù)真的被做出來，誰在控制它，他的答案變得越來越明確，甚至冷靜到只剩一句判斷：
" 我不認(rèn)為奧特曼是那個能為 OpenAI 拍板兒的人。"
理由嘛——
llya 倒不是懷疑奧特曼能力有問題，主要吧，還是懷疑這個人的人性…
于是乎，接下來 llya 的一系列操作，只能說已經(jīng)不太像一家科技公司的內(nèi)部討論了，正如我們看到的：
70 頁材料被系統(tǒng)整理出來，包含 Slack 記錄與內(nèi)部文件，關(guān)鍵內(nèi)容用手機(jī)拍下，刻意避開公司設(shè)備，再通過會自動消失的消息發(fā)送給董事會。
一位收到材料的董事后來回憶，看到這個大爆料的時候，他直言：我是真被嚇得沒邊了…
5 天宮斗，從 F1 賽場到豪宅備戰(zhàn)室
在 Ilya 那份 70 頁機(jī)密備忘錄里，當(dāng)年的 OpenAI 宮斗事件被還原得更加具體，也更抓馬。（doge）
而且這事兒的開端，本身就帶著一點《荒誕感》——
當(dāng)時奧特曼人在拉斯維加斯看 F1，被一通視頻電話叫走，電話那頭兒，Ilya 讀了一段極其簡短的聲明——
他（奧特曼）已經(jīng)不再是 OpenAI 的 CEO。
沒有鋪墊，也沒有證據(jù)披露，更離譜的是，連微軟里德 · 霍夫曼這種級別的核心投資人，事前也完全不知情。
（甚至一度以為是挪用資金這種級別的大雷，結(jié)果啥也沒查到？？）
聽到自己被 " 斬立決 " 的消息，當(dāng)晚奧特曼直接連夜在自己豪宅里直接搭起了一個堪稱 " 拯救奧特曼 " 主題的臨時指揮部。
奧特曼的目的，是迅速推進(jìn)三件事：
第一，資本施壓。
Thrive 凍結(jié)關(guān)鍵投資，微軟直接放話可以另起爐灶：你們可以換 CEO，但 OpenAI 也可以從此消失。
第二，員工站隊。
聯(lián)名信迅速擴(kuò)散，幾乎全員簽字，甚至連臨時接任 CEO、最初站在董事會一側(cè)的 Murati，最終也倒向奧特曼，簽下支持回歸的聯(lián)名信。
緊接著，便是輿論失控。
董事會選擇沉默，奧特曼一方持續(xù)釋放信息，掌控輿論大局。
結(jié)果嘛，就是 Ilya 最后也不得不松口：如果奧特曼不回來，公司可能會直接崩掉。
五天之后，結(jié)局落定—奧特曼回宮，董事會出局。
甚至，OpenAI 內(nèi)部員工還給這場硅谷史上最經(jīng)典的宮斗反轉(zhuǎn)，起了個名字—— The Blip（意為 " 小插曲 " 或 " 短暫失常 "）。
The Blip 之后，安全承諾開始崩塌
The Blip 結(jié)束后，OpenAI 所發(fā)生的變化沒有停在權(quán)力層面，那套用來 " 限制權(quán)力 " 的機(jī)制，開始逐步松動。
最先出問題的，是資源。
OpenAI 曾對外承諾，會拿出 20% 的算力，用于長期安全研究，這是 OpenAI 當(dāng)時最核心的安全底牌。
但實際執(zhí)行，很快變了味兒——算力占比一路下滑到 1%-2%，分到的還是最老的集群、最差的芯片。
當(dāng)負(fù)責(zé)人 Jan Leike 提出異議時，得到的回應(yīng)是：這件事從一開始就不現(xiàn)實。
從優(yōu)先事項，變成象征性存在，安全開始失去真正的投入。
第二步，就是流程開始被繞開。
在 OpenAI 里，原本涉及高風(fēng)險能力的發(fā)布，正常應(yīng)該需要經(jīng)過安全委員會審核。
但在后續(xù)產(chǎn)品迭代中，一些爭議最大的功能都沒有走完整審批流程就直接上線，甚至連地區(qū)版本的產(chǎn)品，也在安全評估尚未完成的情況下發(fā)布。
（流程不流程的，似乎也沒那么重要了… )
事實上董事會風(fēng)波之后，OpenAI 請來了一家參與過多起公司丑聞?wù){(diào)查的律所 "WilmerHale" 做獨立調(diào)查。
按這家律所的正常工作流程和外界普遍預(yù)期來說，OpenAI 的事情會有一份正式、可追溯的書面報告。
但最終的結(jié)果是——沒有報告。（doge）
調(diào)查結(jié)論，只以口頭形式匯報給新董事會，而不寫報告的建議，恰恰來自奧特曼參與選擇的董事的私人律師。
三件事兒——先削資源，再松流程，最后弱化調(diào)查。
看起來每一步都是輕微調(diào)整，但是吧，當(dāng)系統(tǒng)可以繞過限制，限制本身也就不再存在了。
20 年前就有人看透了山姆 · 奧特曼？
u1s1，圍繞奧特曼好的壞的一籮筐評價，并不是在 OpenAI 才出現(xiàn)的。
事實上跨越 20 年、橫跨多個組織，對奧特曼的核心評價驚人一致，那就是——
這小子，嘴里忒沒實話，干事兒忒不著邊兒。（doge）
最早的一次，可以追溯到 2013 年。
當(dāng)時已故的天才程序員 Aaron Swartz，在私下對朋友留下過一句對奧特曼非常極端判斷：
你必須明白，奧特曼這個人永遠(yuǎn)不值得信任，他是個反社會人格的人，為了目的什么都做得出來。
他第一次創(chuàng)業(yè)階段，問題已經(jīng)出現(xiàn)。
公司內(nèi)部員工曾兩次推動董事會撤換他，甚至需要投資人親自下場，在公司里盯著他。
到了后來，當(dāng)他開始進(jìn)入更核心的創(chuàng)業(yè)與投資圈層，問題開始升級——
從內(nèi)部矛盾，變成信任危機(jī)。
內(nèi)部有人后來直接承認(rèn)，奧特曼一直在隱瞞事情，比如對外公告不斷修改說法， 職位描述一改再改，甚至最后干脆刪除等等。
但在正式的監(jiān)管文件里，他依然被標(biāo)注在原來的位置上？？
換句話說就是表面在變化，實際關(guān)系卻沒有同步調(diào)整。
董事會成員給出的評價是：他不受事實的約束，甚至奧特曼還被大家形容為，對欺騙可能帶來的后果缺乏基本顧慮。
而另一位高管給出的說法是：他未來，有可能會被放進(jìn)那些重大商業(yè)丑聞人物的序列中被討論。
喜歡寫日記的不正經(jīng)人還有一個，后來成為 Anthropic CEO 的 Dario Amodei 也留下了 200 多頁筆記內(nèi)容，筆記中包含大量對于 OpenAI 和奧特曼本人的評價。
盡管和 llya 算不上啥關(guān)系多好的朋友，但是吧，人家和 Ilya 得出了同一個結(jié)論——
那就是 OpenAI 內(nèi)部出現(xiàn)的一籮筐問題不在公司系統(tǒng)本身，而是奧特曼本人有問題。
甚至，Amodei 的措辭更為激烈，對奧特曼的評價是——他說的話幾乎可以確定是胡扯！！！
更微妙的是，別看差評如此之多，架不住奧特曼自己的腰板直，在被質(zhì)疑時，人家奧特曼只是說：
不好意思哈，我無法改變我的性格～（好牛的精神狀態(tài)）
最后頗值得一提的是，在 llya 的 70 頁機(jī)密備忘錄中，還有個蠻值得一瞧的事情，那就是——
在 OpenAI 的辦公區(qū)里，"Feel the AGI" 的標(biāo)語隨處可見。
這句話最早是 Ilya 用來警告同事 AGI 風(fēng)險的，但是吧，The Blip 宮變事件之后，變成了慶祝未來的口號。
（這多少有點地獄級笑話了啊，llya：我？？？）
OMT
家人們，這瓜還沒完。
就在剛剛，曝光此備忘錄的《紐約客》記者在 x 上表示，當(dāng)他們想采訪 " 研究 AI 生存風(fēng)險 " 的研究員時，OpenAI 官方回應(yīng)是：
你說的存在性安全是啥？這東西壓根不存在哈～
就在這篇調(diào)查報告發(fā)布幾個小時后， OpenAI 剛巧推出了支持安全研究的項目。（doge）
（llya：這下你們知道我說的都是實話了吧，這奧特曼是真說一套做一套啊？？）
一鍵三連「點贊」「轉(zhuǎn)發(fā)」「小心心」
歡迎在評論區(qū)留下你的想法！
— 完 —
風(fēng)云變幻的 Q1，誰是 AI 超級應(yīng)用？
量子位智庫「AI 100」旗艦、創(chuàng)新雙產(chǎn)品榜單開啟招募！
掃碼申報，讓你的產(chǎn)品成為季度風(fēng)向標(biāo)。
