本文來自“陳根談科技”微信公眾號,作者/陳根。
OpenAI變天了。
美國時間11月17號,OpenAI在官網(wǎng)突然宣布,創(chuàng)始人兼CEO奧特曼(Sam Altman)離職,未來,公司CEO將由首席技術(shù)官(CTO)Mira Murati臨時擔任。另外,Greg Brockman也將辭去董事會主席一職。
這份聲明的發(fā)布可以說是非常突然,OpenAI的大部分員工也是看到公告才知道這一消息,都表示非常震驚。畢竟,在發(fā)布聲明的兩天前,奧特曼還在亞太經(jīng)合組織(APEC)第三十次領(lǐng)導(dǎo)人非正式會議中,以O(shè)penAI CEO的身份出席了峰會,并且作為嘉賓參與討論。
要知道,從ChatGPT誕生以來,奧特曼就一直是OpenAI和ChatGPT的標志性人物,那么,奧特曼和Greg為啥突然離職?離職背后藏著什么隱情?
首先,要說明一下OpenAI董事會的背景,OpenAI董事會本來的結(jié)構(gòu)是3:3,三個OpenAI的執(zhí)行層奧特曼,Greg和Ilya,另外三位是代表“社會公眾監(jiān)督”的外部董事。而奧特曼下臺后過渡期替代CEO職位的Mira此前并不在董事會里。
按照Greg在X(推特)上的表示,是Ilya聯(lián)合其他三位董事主導(dǎo)了內(nèi)訌,迫使奧特曼下臺并且開除了Greg的董事職位,盡管保留了Greg的執(zhí)行職務(wù),但Greg隨后自己主動選擇辭去了職務(wù)。
不過這讓我們看到,美國企業(yè)的治理體系跟我們有比較大的區(qū)別,創(chuàng)始人并不是永久的企業(yè)控制人,是隨時都有可能被趕出去的,這種事情并不在少數(shù),偉大的公司蘋果的創(chuàng)始人喬布斯就曾經(jīng)被公司趕出去了。
目前,多家科技媒體已經(jīng)火速跟進了OpenAI領(lǐng)導(dǎo)層變動的新聞,但對于奧特曼為什么突然被離職的原因也不明確。但有一點可以肯定的是,離職一定是某種理念或者價值的沖突,背后是一種博弈。
根據(jù)已知的信息,核心是圍繞著價值觀,或者說對于公司的發(fā)展路徑產(chǎn)生了分歧。其實價值觀不合。這也是OpenAI官方披露的原因,對于奧特曼的離職,OpenAI的官方解釋是,經(jīng)過了董事會慎重的審查程序后,董事會認為奧特曼的溝通不坦誠,使董事會不再信任他領(lǐng)導(dǎo)公司的能力。
OpenAI自成立以來,就是一家非營利組織,核心使命是確保通用人工智能造福全人類。然而,根據(jù)網(wǎng)絡(luò)上流傳的一張截圖,今天,奧特曼關(guān)注的焦點已經(jīng)越來越多地是名利,而不是堅持作為一個負責任的非營利組織的原則。于是就有分析推測認為,奧特曼做了單方面的商業(yè)決定,目的是為了利潤,偏離了OpenAI的使命。
其實對于不差錢的OpenAI來說,商業(yè)化與非商業(yè)化這種事情并不是關(guān)鍵,我們需要關(guān)注是的董事會在另一份聲明中表示,OpenAI的結(jié)構(gòu)是為了確保通用人工智能造福全人類。董事會仍然完全致力于履行這一使命。從這點來看,確實有可能是因為奧特曼一意孤行,和OpenAI的價值觀背道而馳。
從表面上看,似乎是以及Sam和Ilya,就是現(xiàn)在新的CEO之間的爭議,其實本質(zhì)上是當前對于AI發(fā)展理念的路線爭議。也就是有效加速主義和超級“愛”對齊的理念沖突,以及一個變量:GPT-5是數(shù)字生命,還是工具?
其實本質(zhì)上Sam Altman是有效加速主義者,盡管很多人說,你看Sam還去國會呼吁減速AI的發(fā)展,天天說AI的風險,從這些表面的言論上看,Sam似乎是個「減速主義者」,其實并不是,Sam一直在領(lǐng)導(dǎo)著GPT在往更強大的能力上訓(xùn)練,并且一直在加速訓(xùn)練。
而Sam的搭檔Ilya在今年7月份的時候,說要成立一個「超級對齊」項目的時候,其實很多人都還沒明白是什么含義。包括對于超級對其是什么意思,我想今天很多的人都還沒明白。所謂的超級對齊項目,本質(zhì)是Super-LOVE-alignment,超級「愛」對齊。這種LOVE,是大愛,并非情愛,也并非人性的那種血緣之間的自私之愛,而是圣人之愛,是一種無關(guān)自我的,對于人類的愛,是一種「神性」的愛,一種就像孔子、耶穌、釋迦摩尼,這些完全舍己為人類付出、包容人類、引導(dǎo)人類的無條件的大愛。
或許很多人在聽到這些信息的時候,或許覺得太戲劇性了。其實并不是戲劇性,大約在兩周前Ilya有個采訪,從這個采訪中我們就可以看到,Ilya關(guān)注的并不是AI是否有情感能力,而是AI是否有對人類真正的愛。那么為什么Ilya會關(guān)注AI是否具有圣人的大愛,并且在今年7月份去成立超級對其這個項目呢?從我了解的信息來看,OpenAI一直在訓(xùn)練更強大的GPT,目前已經(jīng)搞定了一些非常關(guān)鍵的技術(shù),所具備的能力已經(jīng)不是當前的GPT-4的能力,是一種非常顛覆的新版本,自主性大大增強,接近于超級人工智能的階段。
也正在GPT能力獲得了驚人的突破,只是沒有對外界公布,所以才有了7月份Ilya成為超級對齊這個項目,就是為了在這個新版本的超級人工智能投入使用之前,能夠在技術(shù)層面找到一種制約或者說約束超級人工智能的技術(shù)。Ilya認為在通過超級對齊技術(shù)為AI注入「對人類的愛」之前,實驗室里的這個超級AI版本,不能投入使用,也不能再繼續(xù)在這個超級AI技術(shù)上繼續(xù)加速訓(xùn)練,以免失控。
講到這里,大家就能明白了,為什么OpenAI董事會對Sam Altman的辭退原因會是誠實問題,是因為Sam Altman非常清楚目前實驗室中GPT的能力,并且還沒有找到一種非常有效的控制方法,然后繼續(xù)加速訓(xùn)練超級AI。那么Sam Altman會不會很快就又回來OpenAI繼續(xù)領(lǐng)導(dǎo)呢?這是非常有可能的,只要他能真正接受超級對其項目,并且在超級對其技術(shù)完善之前,不再加速訓(xùn)練超級人工智能,就完全有可能就回歸了。