最近,OpenAI 再傳離職消息,安全政策顧問及AGI 準備團隊負責人米爾・布倫達奇(Miles Brundage)宣布將離開公司,並透露他所領導的團隊也將解散,成員將被重新分配到其他部門。
布倫達奇在社群媒體平台X 上發布了一篇文章,詳細解釋了自己的決定。他表示,離開OpenAI 的原因主要是想要擁有更多的獨立性和發表研究的自由。
值得注意的是,布倫達奇並不是唯一一位高層離職的安全研究者。早在今年5月,OpenAI 就解散了其超級對齊團隊,這個團隊主要負責人工超級智慧的風險評估。此後,團隊的兩位負責人亞恩・萊克(Jan Leike)和伊利亞・蘇茨克維爾(Ilya Sutsver)也相繼離職。
除此,公司的技術長米拉・穆拉特(Mira Murati)、首席研究官鮑勃・麥格魯(Bob McGrew)以及研究副總裁巴雷特・佐夫(Barret Zoph)等多位高層也在近期相繼離開。
在過去的六年中,布倫達奇一直在OpenAI 向管理層和董事會提供建議,幫助公司為人工智慧的快速發展做好準備。他在安全研究方面的貢獻不容小覷,包括引入外部紅隊(external red teaming)機制,這機制讓外部專家參與檢測OpenAI 產品的潛在問題。
布倫達奇提到,他與OpenAI 在研究發布的限制上有分歧,覺得這些限制越來越難接受。他認為,自己在OpenAI 內部的工作已經影響了自己的研究客觀性,使他在AI 政策的未來問題上難以保持公正。他在社群媒體上也提到,OpenAI 內部普遍存在一種觀點,那就是「發聲的代價很大,只有一些人能夠做到這一點」。
這一系列高階主管的離職,不僅讓OpenAI 的未來方向引發了更多的關注,也使得外界對其內部文化和決策機制產生了更多的疑問。
劃重點:
布倫達奇宣布離開OpenAI,AGI 準備團隊也將解散。
他希望能擁有更多研究發表的自由,反映出與公司在研究限制上的分歧。
最近多位高階主管相繼離職,外界對OpenAI 的未來發展和內部文化產生了關注。