紐約人深入調查:為什麼OpenAI自己的人認為Altman不可信?

原作者:蛋糕、深潮科技花

2023年秋天, OpenAI首席科學家Ilya Sutskever坐在電腦前。

這份文件從Slack訊息記錄、HR通訊檔案和內部會議記錄中整理出來

Sutskever在文件第一頁第一行的回答是"Sam 顯示了一贯的行為模式..."

第一部分:說謊。

調查記者羅南·法羅(Ronan Farrow)和安德魯·馬蘭茨(Andrew Marantz)在《紐約人》上發表了長篇訪問。 以及Anthropic Dario Amodei創始人OpenAI時期的200多頁私人筆記。 這些文件的故事比2023年的歇斯底里更糟糕:OpenAI是如何從一個為人性安全而生的非营利組織變成一個商用機器的。

阿莫代的結論更清晰:"OpenAI的問題是山姆自己"

OpenAI的原罪已定

為了了解這個故事的重點。

2015年,阿爾特曼和一群硅谷精英在商業史上做了一個小小的先例:利用非營利組織來發展可能是人類歷史上最強大的科技. 委員會的角色非常清楚, 如果有一天OpenAI的AI變得危險 董事會有關閉公司的义务。

整個建築都以假設為賭注。

如果錯了呢

核心炸彈是70頁的文件 Sutskever不做辦公室政治 他是世界上最好的AI科學家之一 但在2023年,他更加相信一件事:Altman繼續對行政委員會撒謊。

2022年12月, Altman 在委員會的會議中向委員會保證, GPT-4 的各种功能都通過了安全檢查。 委員Toner 要求批准文件, 並且發現兩項最有爭議的功能(使用者定義的微調和私人助理的部署)根本未得到安全委員會的批准。

更可笑的事在印度發生。 微软在印度發行了ChatGPT的早期版本。

Altman曾向前CTO Mira Murati表示, 安全審查程序不太重要, 穆拉蒂跑到總律師那裡確認 另一邊說 "我不知道山姆來自哪裡"

阿莫代的200頁私人筆記

Sutskever的檔案就像檢察官的起诉书 阿莫代留下了200多頁筆記。

阿莫代在OpenAI擔任安保主管數年, 在他的筆記中, 他在2019年微软投資案中寫下了一個關鍵細節:他在OpenAI的章程中插入了一個"兼并與協助"条款,大意是如果另一家公司找到了更安全的AGI路線,OpenAI會阻止競爭並轉而幫助那家公司. 這是他整個交易中最重要的安全。

Amodei發現一件事:微软在這個條款上获得了否决权。 什么意思? 微軟可以阻止OpenAI的協助义务。 但自簽署之日起生效。

阿莫代于是離開了奧佩,創造了安特羅皮克. 兩家公司競爭的底部。

20%的失蹤者

關於OpenAI的"超對應隊"。

Altman e-mail在2023年年中聯系了伯克利的一位博士生, 他正在研究「艾伊的謊言聯系」(這項聯系是實際上進行的, 博士生受到鼓勵,停職,加入OpenAI。

Altman改變主意:不再有外部獎項, 公司宣布將將20%的可用信用分給這支球隊, 宣佈很嚴肅, 表示若不解決調整問題。

後來他告訴記者, 這項承諾本身就是個非常有效的「人才保留工具」。

現實呢? 有四個人在這支隊伍工作 或密切接触的人說实际分配的數量只有律所總數的1%到2%,或者最古老的硬件. 這支隊伍後來解散。

當記者要求訪問OpenAI的研究员「性安全」時

艾特曼本人很誠實 他對記者說, 他的「直覺不適合傳統的AI安全」。

已空的 COFO 及將來的 IPO

紐約人的故事只是今天一半的壞消息 同一天OpenAI的CFO Sarah Friar和Altman有嚴重的分歧。

修道院私下告訴她的同事,她認為奧帕伊今年沒準備好上市。 由於阿爾特曼所承擔的計算耗費為5年600億美元, 她甚至不確定OpenAI的收入增長會維持這些承諾。

但阿爾特曼想在今年第四季度跑步。

更糟糕的是 弗里爾不再直接向阿爾特曼報告了 自2025年8月起,她向Fidji Simo(OpenAI應用程式CEO)報告。 西蒙上周剛因健康原因打給病人 你處於這種情況中 一個公司在短跑IPO,CEO和CFO之間 存在根本的分歧 而CFO不向CEO報告 而CFO的上司正在休假。

就連微軟內部高管也無法觀察, 一位微軟高管甚至說:「我想他很可能會被記得是Bernie Madoff或SBF級的騙子」

阿爾特曼的雙面人

一位前OpenAI董事向記者描述了Altman的兩種特徵。 這可能是整個故事中最糟糕的人物素描。

導演說阿爾特曼的組合非常少見: 在每一次面对面的交換中,他都對取悅和被喜歡有强烈的渴望. 同時,他與欺騙他人的後果無關。

兩個特征都出現在一個人身上是极为罕见的。 但對一個銷售員來說 這是完美的禮物。

報告中有個比喻:約布斯以"真正的扭轉力場"而出名,他可以讓世界相信自己的愿景. 但就連喬布斯都沒告訴顧客 "你不會買我的MP3玩家 你愛的人會死"。

阿爾特曼也這麼說過AI。

首席執行官人類問題 為什麼每個人都有風險

Altman 如果只是一般技術公司的首席執行官 這些指控充其量只是一個廣告 但OpenAI並不正常。

用它自己的話說,它正在發展 可能是人類歷史上最強大的科技。 OpenAI本身也剛發表了一份关于AI导致失业的政策白皮书。

所有保安都死了 創始人的非营利任務讓位給IPO短跑. 前首席科學家和前安全主管都認為CEO"不可信". 合伙人把首席執行官比作SBF 在這個情況下

Gary Marcus在讀完報告後寫道: 如果未來的OpenAI模型之一能產生大型生化武器或發動灾难性的網路攻擊

OpenAI對《紐約人》的回應很簡單:「這篇文章大多是關於所報導的故事

Altman回應很好:它沒有回應具体指控。

在一個不牟利的身體上 有棵錢樹

OpenAI的十年

一群以風險為本的理想主義者 創造了一個以任務為主的非营利組織 该组织取得了非凡的科技突破. 突破吸引了巨大的资本。 资本需要回報。 任務開始讓路了 保安隊解散了 那個被審問的人被清理了 非營利建築已改造成盈利实体. 曾經有權關閉公司的董事會 現在是CEO的盟友 公關說「這不是真的」。

故事主角,百余家人,給了他同樣的標籤:"不受真相的约束"

他正要拿下公司IPO 價值超過850億美元。

包括紐約人、司馬福爾、科技布魯、吉茲莫多、企業內幕與資訊。