導讀:在OpenAI著力攻克下一代模型的挑戰(zhàn)的當下,核心人員離職或長期休假,或也反映出OpenAI內部仍存在分歧。
北京時間8月6日上午消息,OpenAI再迎高層人事變動。
OpenAI創(chuàng)始團隊成員約翰·舒爾曼(John Schulman)在社交平臺上宣布,他將離開OpenAI,并加入另一家人工智能創(chuàng)業(yè)企業(yè)Anthropic。OpenAI總裁、聯合創(chuàng)始人格雷格·布羅克曼(Greg Brockman)在社交媒體上宣布,他將休假到年底,未提及可能離職的消息。另有消息稱,OpenAI的產品負責人彼得·鄧(Peter Deng)也將離職。
此前OpenAI聯合創(chuàng)始人兼首席科學家伊利亞·蘇茨克沃(Ilya Sutskever)離職后,OpenAI人事仍然不穩(wěn)。值得注意的是,此次宣布離職的約翰·舒爾曼與伊利亞·蘇茨克沃此前都負責OpenAI的人工智能對齊工作。而OpenAI此前已解散“超級智能對齊”團隊,約翰·舒爾曼此次離職或意味著OpenAI更不愿重押人工智能對齊。
此外,雖然格雷格·布羅克曼并未透露離職,但在OpenAI著力攻克下一代模型的挑戰(zhàn)的當下,核心人員長期休假,或也反映出OpenAI內部仍存在分歧。
再迎人事變動
約翰·舒爾曼表示,作出離開OpenAI并加入Anthropic這一決定是因為他希望進一步關注人工智能對齊,并重返實際技術工作!拔译x開并不是因為OpenAI缺乏對對齊研究的支持,相反,公司一直致力于投資這一領域,我的決定是個人決定,我希望在職業(yè)生涯下一階段集中精力。” 約翰·舒爾曼表示。
約翰·舒爾曼表示,到目前為止,除了實習,OpenAI還是他工作過的唯一一家公司,他非常感謝OpenAI CEO薩姆·奧爾特曼 (Sam Altman)和聯合創(chuàng)始人格雷格·布羅克曼一開始就招募了他,“相信沒有我,OpenAI和我所在的團隊也會繼續(xù)蓬勃發(fā)展!
薩姆·奧爾特曼則在社交平臺上回復約翰·舒爾曼,稱”感謝你為OpenAI所做的一切,你是一位才華橫溢的研究員,一位對產品和社會有深刻思考的人,你是我們所有人的好朋友“。
記者留意到,今年早些時候,OpenAI解散了“超級智能對齊”團隊,并于當地時間5月28日成立了一個新的安全委員會,約翰·舒爾曼是該安全委員會的成員之一。彼時OpenAI對他的職位描述為對齊科學主管。
聯合創(chuàng)始人格雷格·布羅克曼雖然長期休假,但并未透露離職意向,他僅在社交媒體上表示,這是9年前共同創(chuàng)立OpenAI以來他第一次可以放松!叭蝿者遠未完成,我們仍然需要構建安全的AGI(通用人工智能)!备窭赘瘛げ剂_克曼表示。
彼得·鄧則還未在社交媒體上提及他離職的消息。彼得·鄧是硅谷知名產品經理,曾任谷歌(160.54, -0.10, -0.06%)、Instagram、Facebook、Uber等公司的產品經理,去年加入OpenAI任消費產品副總裁,負責ChatGPT背后的產品、設計和工程團隊。在今年早些時候的播客對談中,他提及AI安全和ChatGPT的價值觀時表示,理想(18.94, 0.08, 0.42%)的情況是人工智能能契合每個使用者個人的價值觀,這不應該是規(guī)范性的,并不是我們想要為ChatGPT灌輸什么價值觀,而是希望能以某種方式將世界各地的價值觀融入到人工智能中。
自去年薩姆·奧爾特曼被OpenAI董事會解雇又重新聘用后,OpenAI人事動蕩未止。有傳聞稱薩姆·奧爾特曼罷免事件與內部對AI安全問題的分歧有關,薩姆·奧爾特曼與伊利亞·蘇茨克沃在AI安全和商業(yè)化問題上存在分歧。作為內斗風波關鍵人物,伊利亞·蘇茨克沃已于今年5月宣布離開工作了近10年的OpenAI。
此外,OpenAI另一名創(chuàng)始團隊成員Andrej Karpathy今年2月已離開OpenAI,并于7月宣布創(chuàng)辦了一家AI+教育公司。OpenAI仍在職的創(chuàng)始團隊成員越來越少。
是否影響GPT開發(fā)進展?
OpenAI再迎人事變動,或意味著OpenAI對AI安全的關注點變化,下一代GPT是否會受人事變動的影響還需繼續(xù)觀察。
記者留意到,據OpenAI描述,此前成立的安全委員會的首要任務是在接下來90天評估和進一步開發(fā)OpenAI的流程和保障措施,并在90天結束時與全體董事會成員分享建議,在董事會審查后公開已采納的建議。按照時間規(guī)劃,這些建議將在8月底之后公開,而約翰·舒爾曼在此之前就決定離開OpenAI。
在AI安全方面,從OpenAI對新成立的安全委員會的介紹看,該團隊的職責與已解散的“超級智能對齊”團隊不完全一致。而隨著對齊科學主管約翰·舒爾曼離開,這或意味著OpenAI對人工智能對齊方面關注變得更少。
“對齊”的意思是要求AI系統的目標與人類價值觀與利益相一致,原本“超級智能對齊”團隊的職責包括研究防止AI系統異常的技術解決方案。伊利亞·蘇茨克沃曾在采訪中提到ChatGPT可能有意識,世界需要清醒認識到他的公司和其他公司正在創(chuàng)造的技術的真正力量。奧爾特曼的看法與之不完全相同,他近期回應稱“(前董事會)他們對我和我們所做的事有一些看法,盡管我非常強烈地反對他們的想法。人工智能對齊問題還不能說完全解決,但目前讓人工智能系統學會如何按一套價值觀行事,效果比我想象的更好!
約翰·舒爾曼將加入的Anthropic則被認為是OpenAI的頭號競爭對手。Anthropic是由前OpenAI研究高管和員工創(chuàng)建的公司,旗下擁有Claude系列大模型。今年6月,Anthropic發(fā)布最新模型Claude 3.5 Sonnet,該模型在研究生水平推理 (GPQA)、編碼能力 (HumanEval) 、文本推理(DROP)等方面的成績均好于GPT-4o。
從下一代GPT研發(fā)進展看,OpenAI似乎遇到了一些困難。今年7月,薩姆·奧爾特曼稱,開發(fā)GPT-5還需要一些時間,GPT-5相關的技術仍處于早期階段,存在數據和算法方面的問題。
隨著約翰·舒爾曼離職并加入競爭對手Anthropic、格雷格·布羅克曼休假,核心人物離場對OpenAI研發(fā)進展是否有影響還需繼續(xù)觀察。
值得注意的是,OpenAI聯合創(chuàng)始人間還另有矛盾。撤訴不到兩個月后,曾聯合創(chuàng)辦了OpenAI的特斯拉(200.64, 1.76, 0.88%)CEO馬斯克近日又在美國法院起訴薩姆·奧爾特曼、格雷格·布羅克曼,指控相關人員將商業(yè)利益置于公共利益之上,違反了公司的創(chuàng)立合約。起訴書稱,薩姆·奧爾特曼等人故意討好和欺騙馬斯克,以共同創(chuàng)立非營利企業(yè)OpenAI,但隨后用各種手段使之成為營利實體。OpenAI數月前針對馬斯克的指控則曾發(fā)截圖回應,表示馬斯克曾同意該公司籌集更多資金、創(chuàng)建營利性組織并逐步放棄開源產品發(fā)布的計劃。