「OpenAI內(nèi)部對于AI安全的看法存在分歧」
撰文：何昕曄
編輯：吳洋洋
Key Points
開除了自己的董事會，正是Sam Altman一手創(chuàng)立的；
首席科學家Ilya Sutskever可能是罷免風波的關鍵人物；
AlphaGo下出的那個人類沒有下過的棋徹底改變了Ilya Sutskever對AI的看法；
Ilya聲稱，他現(xiàn)在的首要任務「不是構(gòu)建下一個GPT或DALL-E，而是找出如何阻止AI失控的方法」；
Sam 5月曾保證「未來6個月內(nèi)，OpenAI不會訓練GPT-5」，這一保證已經(jīng)過期；
ChatGPT發(fā)布近一周年之際，整個AI領域都進入了一種軍備競賽的升級狀態(tài)，包括OpenAI；
Sam Altman被解雇當晚，OpenAI另外3名高級研究人員宣布辭職。
OpenAI的靈魂人物Sam Altman被自己創(chuàng)立的公司開除了。
11月17日，OpenAI在官網(wǎng)宣布，Sam Altman將卸任CEO職務，并離開公司董事會。首席技術官Mira Murati暫時接任CEO一職，公司將繼續(xù)尋找合適的CEO人選。官網(wǎng)文章同時宣布，OpenAI總裁Greg Brockman將不再擔任董事會主席，但繼續(xù)擔任公司總裁，并向新任CEO匯報。
這個突然的巨大變動讓Sam和Greg都有些手足無措。前一天，Sam剛參加了兩場活動，除了出席亞太經(jīng)濟合作組織首席執(zhí)行官峰會，他還在加利福尼亞的一次活動上發(fā)表了講話。而就在10天前，Sam Altman還主持了OpenAI的首屆開發(fā)者大會。此前沒有任何跡象表明，他將要離開OpenAI。
消息公布后，Greg Brockman宣布辭職。他在社交媒體上表示：「OpenAI 8年前在我的公寓起步，我們一起經(jīng)歷了起落，我對這項事業(yè)感到驕傲。得知今天的新聞后，我選擇退出?！?/p>
相較于Greg Brockman，Sam Altman的回復則顯得平靜。他說：「我很喜歡在OpenAI的時光。這對我個人來說是變革性的，希望對世界也是如此。我喜歡與這些才華橫溢的人一起工作。」8個小時之后，他補充了自己的感想，稱這是一種「奇怪」的經(jīng)歷，「就像你還活著的時候讀到了自己的悼詞」。他還表示，之后會有重要消息宣布。
從左到右分別為OpenAI首席科學家Ilya Sutskever、原CEO Sam Altman、CTO Mira Murati和原總裁Greg Brockman。
開除Sam的董事會是他一手建立的
OpenAI官網(wǎng)文章稱，董事會做出此決定的原因，是Sam Altman在與董事會的溝通中不夠坦誠，阻礙了董事會履行職責的能力，董事會不再對他繼續(xù)領導OpenAI的能力有信心。
開除了自己的董事會，正是Sam Altman一手創(chuàng)立的。
在這次風波之前，OpenAI的董事會成員共有6人，除了Sam Altman和Greg Brockman，還包括Ilya Sutskever、Adam D'Angelo、Tasha McCauley和Helen Toner。
其中，Ilya Sutskever在OpenAI擔任首席科學家一職，而其他3人為外部獨立董事：Adam D'Angelo是問答社區(qū)Quora的聯(lián)合創(chuàng)始人兼CEO，今年2月，他主導推出了AI聊天機器人Poe；Tasha McCauley是機器人公司Fellow Robots的聯(lián)合創(chuàng)始人，Helen Toner則是喬治城大學安全與新興技術中心（CSET）的戰(zhàn)略和基礎研究基金主任。
也就是說，總共6人的董事會中，3人（Sam、Greg和Ilya）來自OpenAI，另外3位與這家公司沒有直接利益關系。
成立之初，OpenAI就被定位為一家非營利性質(zhì)的公司。到了2019年，為了籌集資金，但又不改變非營利的初衷，Sam決定在董事會設立非營利組織「OpenAI Nonprofit」，由該組織控制和管理新成立的營利性子公司OpenAI Global。該營利性子公司即發(fā)布了ChatGPT的那個實體，它被允許將OpenAI的技術商業(yè)化，但也必須遵守非營利組織的使命。非營利組織的董事會擁有很大的權力，包括決定公司何時訓練和發(fā)布AGI（Artificial General Intelligence）。AGI是一種通用人工智能，它能夠像人類一樣思考和推理，并且這一切是在一個神經(jīng)網(wǎng)絡上進行的，不需要為每個任務都構(gòu)建一個神經(jīng)網(wǎng)絡（專用智能）。
此次參與將Sam從CEO職位上開除決策的Adam D'Angelo、Tasha McCauley和Helen Toner，都不是OpenAI的持股人。微軟向OpenAI投資了130億美元，擁有其49%的股權，但這部分股權只參與利潤分配，在公司董事會中沒有一席之地。
構(gòu)建如此公司和董事會架構(gòu)時，OpenAI對外宣稱，董事會成員主要由非持股人組成，因為只有他們才能在有限合伙人的利益與非盈利組織的使命發(fā)生沖突時做出公正決策。OpenAI當時認為，保險箱的鑰匙應該掌握在那些沒有動機去盜取保險箱的人手中。但這一次，他們直接讓保險箱不再屬于其所有者。
首席科學家Ilya可能是罷免風波的關鍵人物
Sam雖然是董事會的成員之一，但沒有參加罷免自己的投票。
「開除」Sam的消息發(fā)出后，Greg在社交媒體平臺X（原Twitter）上梳理了事件發(fā)生的時間線。周四（即11月16日），Sam收到了來自Ilya的短信，要求在周五（即11月17日）中午交談。周五中午，Sam加入了一個線上會議，除了Greg外，其他董事會成員都在場。Ilya告知Sam，他被解雇了。沒過多久，Greg也在線上會議中被告知，自己已被移出公司董事會。大約同一時間，OpenAI官網(wǎng)發(fā)布了對Sam和Greg的解職消息。
這一事件令所有人震驚。據(jù)The information報道，OpenAI內(nèi)部在事件發(fā)生后舉行了臨時全體會議，有員工提問，解雇是否是一次「政變」（coup）或「惡意收購」（hostile takeover）。Ilya否認了這種說法，他解釋稱，董事會意在履行非營利組織的職責，需要確保OpenAI致力于建立造福全人類的AGI（而非服務于商業(yè)利益）。
但當被問及「這樣的幕后行動是否是一個好方法」時，Ilya稱這樣的處理方式并不完全理想，他也很遺憾。
事實上，Sam被趕出公司和Greg選擇與之共進退，就意味著Ilya這位OpenAI的首席科學家在董事會對Sam投出了反對票。他如今是唯一一位還留在董事會的OpenAI團隊成員。
Ilya是「深度學習之父」Geoffrey Hinton的得意門生。2012年讀博時，Ilya就和Hinton的另一位博士生AlexKrizhevsky訓練了AlexNet模型，并在機器視覺領域最具權威的學術競賽ImageNet中贏得了冠軍。
組建OpenAI前，為了讓Ilya加入，Sam費了不少功夫。他通過郵件邀請Ilya一起吃飯，同行的還有Greg和馬斯克等人。Sam向Ilya伸出橄欖枝，而老東家Google為了留下Ilya，給他的薪酬是OpenAI的兩到三倍，年薪接近200萬美元。Ilya猶豫后，還是決定加入OpenAI，因為這家公司一開始就將目光投向開發(fā)AGI，而他已工作兩年的Google并沒有這一愿景。
對于AGI，Ilya經(jīng)歷了從覺得它是胡扯到相信、最近甚至開始認為GPT具有意識的重大轉(zhuǎn)變。
2011年，Ilya曾飛到倫敦的DeepMind找工作。當時，AGI并不是嚴肅的研究人員會談論的東西，但DeepMind已忙于構(gòu)建AGI。與DeepMind創(chuàng)始人Demis Hassabis和Shane LeggIlya交流后，Ilya認為他們已經(jīng)與現(xiàn)實脫節(jié)，他放棄了在那里謀一份工作，選擇回到大學。
2013年，與導師Hinton共同創(chuàng)立的公司DNNResearch被Google競拍到手（百度也是當時參與競拍的公司之一）后，Ilya加入了Google的人工智能團隊Google Brain。
正是在Google工作的兩年間，Ilya對AI的想法產(chǎn)生了根本性變化——他開始與DeepMind創(chuàng)始人的想法逐漸一致，相信AGI的未來就在眼前。在Google Brain，Ilya感興趣的對象從圖像轉(zhuǎn)向了語言，他發(fā)明了一種神經(jīng)網(wǎng)絡變體，能將英語翻譯成法語，并就此提出「序列到序列學習」（Sequence to Sequence Learning），這種思想可被視為Transformer的前身。
在Google的思維轉(zhuǎn)變促使Ilya在2015年收到Sam Altman和Greg Brockman的召集時，選擇加入OpenAI。然后，他領導OpenAI先后發(fā)明了大語言模型GPT-1、GPT-2、GPT-3，以及文生圖模型DALL-E 1。今天廣受歡迎的文生圖應用MidJourney就是基于DALL-E 1的微調(diào)。
一系列突破一方面令Ilya距離AGI更近了，另一方面，也使他對于AI發(fā)展的觀點逐漸保守。
2016年，AlphaGo在五場圍棋比賽中以4-1擊敗了人類中最好的圍棋棋手之一李世石。并且，在與李世石的第二場比賽的第37步棋中，AlphaGo下出了一步讓所有懂圍棋的人都感到困惑的棋。然而正在所有人都認為AlphaGo搞砸了的時候，AlphaGo最后出奇制勝了。
「想象一下那種程度的洞察力，并且如果它能在所有領域都發(fā)生會怎樣?！笽lya說。AlphaGo下出的那個人類沒有下過的棋徹底改變了Ilya對AI的態(tài)度。
2022年2月，ChatGPT尚未對外發(fā)布時，Ilya就在X平臺發(fā)帖稱「今天的大型神經(jīng)網(wǎng)絡可能具有輕微的意識」。10月接受MIT科技評論采訪時，他再度重復了這一觀點。并聲稱，他現(xiàn)在的首要任務「不是構(gòu)建下一個GPT或DALL-E，而是找出如何阻止AI失控的方法」。
對AlphaGo第37步棋的恐懼促使Ilya比周圍人更強調(diào)「對齊」（Alignment）這一概念，意思是讓人工智能與人的價值觀實現(xiàn)一致，只做人想做的事。
今年7月，Ilya與同事Jan Leike在OpenAI組建了一個叫「超級對齊」（Superalignment）的團隊，意思是要使超級智能也與人類價值觀和認知一致。
「AGI可能導致人類喪失權力，甚至滅絕」，持有這種想法的人并不只有Ilya一人。今年5月初，Ilya的老師Hinton也發(fā)表過類似看法。他當時選擇從已工作了10年的Google離職，因為對于AI的安全風險非常擔憂，且對自己畢生工作感到后悔?！肝也恢廊绾巫柚棺鲪赫呃肁I作惡。我甚至擔心，AI未來會對人類的存在構(gòu)成威脅?！顾f。
OpenAI內(nèi)部對于AI安全的看法存在分歧
作為OpenAI曾經(jīng)的CEO，Sam也常常呼吁政府對AI要加強監(jiān)管，不過，他所領導的OpenAI在商業(yè)化進程上卻越來越快。
9月，OpenAI被爆料稱在以900億美元的估值尋求融資，該數(shù)字是公司當前估值的3倍。
11月6日，Sam還帶領團隊在舊金山召開了OpenAI首屆開發(fā)者大會。除了降低幾乎所有模型的使用價格，Sam還發(fā)布了2款重要產(chǎn)品：GPT-4升級版GPT-4 Turbo和GPTs，前者把模型的上下文窗口擴展到了128k，是升級前的4倍；后者則允許用戶根據(jù)OpenAI提供的工具定制自己的GPT，并發(fā)布到公開市場，像蘋果的應用商店那樣。
由于GPT-4 Turbo比前代更強的代碼撰寫能力，完全不懂代碼的用戶，也能「開發(fā)」出具有獨特功能的GPT。當然，用戶需要支付每月20美元的訂閱費，成為付費用戶，才能用上這一服務。因為廣受歡迎，ChatGPT在發(fā)布會結(jié)束后先是出現(xiàn)長達90分鐘的宕機，到了11月15日，涌進的人數(shù)使得服務器超載，Sam不得不宣布暫停新的付費訂閱。
Ilya一向反對在技術沒有「對齊」前向過多用戶開放。然而在ChatGPT發(fā)布近一周年之際，整個AI領域都進入了一種軍備競賽的升級狀態(tài)。競爭對手之一Anthropic在10月接連融了兩筆資金，亞馬遜和Google都出手了，總額高達60億美元。Anthropic聲稱其融資是為了開發(fā)比當下模型還要強大10倍的下一代新模型，而Google對標OpenAI的多模態(tài)模型Gemini也被爆料已進入客戶測試階段。
對Sam來說，若想不陷入競爭而保住領先權幾乎是不可能的。開發(fā)者大會過后，他就加快了籌集資金的進程。在11月13日《金融時報》的采訪中，Sam表示計劃尋求微軟更多的財務支持，同時透露公司已經(jīng)在開發(fā)下一代AI模型GPT-5。此前5月，面臨美國國會質(zhì)詢時，Sam曾保證「未來6個月內(nèi)，OpenAI不會訓練GPT-5」，以緩解外界對AI未知風險的恐懼。11月13日的采訪表明，這一保證已經(jīng)過期。
Sam的焦慮可以理解，然而他顯然沒有在商業(yè)化、競爭和人類安全之間取得平衡。社交媒體X上的消息稱，11月2日（OpenAI開發(fā)者大會舉行半周之前），OpenAI取得了新的重大進步，Sam對最新進展的態(tài)度是立刻規(guī)劃下一步：籌集資金，安排資源。
OpenAI具體又取得了什么「重大進步」外界不得而知，不過，技術進步在這個AI時代越來越不是單向的好詞。
Sam在競爭方面的投入可能和董事會出現(xiàn)了分歧。宣布解雇Sam的文章最后指出，OpenAI董事會的基本責任是推進OpenAI的使命并維護其章程，即確保AGI造福全人類。
新上任的CEO Mira Murati于2018年加入OpenAI，此前在特斯拉擔任 Model X的高級產(chǎn)品經(jīng)理。她在此前的采訪中表示，AI應該被監(jiān)管，政府應該在其中發(fā)揮更大的作用。
在被逐出公司前，Sam已經(jīng)掌管OpenAI長達8年。2015年，他和Greg、馬斯克、Paypal創(chuàng)始人Peter Thiel、LinkedIn聯(lián)合創(chuàng)始人Reid Hoffman在內(nèi)的一批硅谷精英共同創(chuàng)辦了OpenAI，目標是「確保AI不會傷害人類」。此前，Sam最為人熟知的工作履歷是曾在硅谷的創(chuàng)業(yè)加速器機構(gòu)Y Combinator擔任總裁。2019年，他還作為聯(lián)合創(chuàng)始人創(chuàng)立了加密貨幣公司Tools for Humanity。
Greg于2010年從麻省理工退學，加入了Stripe，2013年成為公司首席技術官。加入OpenAI后，他一直和Sam并肩作戰(zhàn)，幫助他將一些技術落地。
Sam和Greg的離開不是OpenAI危機的結(jié)束，而只是開始。解雇風波當晚，OpenAI的另外3名高級研究人員宣布辭職，包括公司研究總監(jiān)Jakub Pachocki、風險團隊負責人Aleksander Madry和研究員Szymon Sidor。Pachocki和Sidor在研發(fā)GPT-4過程中發(fā)揮了關鍵作用。
這并不是OpenAI第一次因為AI安全問題出現(xiàn)人事變動。2020年，因為與公司在安全和商業(yè)化方面的理念出現(xiàn)沖突，時任OpenAI研究副總裁的Dario Amodei和安全政策副總裁Daniela Amodei就從公司離職，創(chuàng)立了一家新的AI公司——Anthropic，也就是那個令Sam陷入競爭狂熱的對手之一。
聯(lián)系客服
