OpenAI a perdu un autre dirigeant ! Consultant en sécurité et chef d'équipe AGI depuis 6 ans, départ

Récemment, OpenAI a annoncé une autre démission. Miles Brundage, consultant en politique de sécurité et chef de l'équipe de préparation de l'AGI, a annoncé qu'il quitterait l'entreprise et a révélé que l'équipe qu'il dirige serait également dissoute et que les membres seraient réaffectés à d'autres départements.

Brundage a expliqué sa décision en détail dans un article sur la plateforme de médias sociaux X. Il a déclaré que la principale raison de quitter OpenAI était d'avoir plus d'indépendance et de liberté de publier des recherches.

Il convient de noter que Brundage n’est pas le seul chercheur en sécurité à quitter l’entreprise à un niveau élevé. Dès mai de cette année, OpenAI a dissous son équipe Super Alignment, qui était principalement responsable de l'évaluation des risques liés à la super intelligence artificielle. Depuis, les deux leaders de l'équipe, Jan Leike et Ilya Sutsver, sont également partis.

En outre, la directrice de la technologie de l’entreprise, Mira Murati, le directeur de la recherche Bob McGrew et le vice-président de la recherche Barret Zoph ainsi que d’autres cadres supérieurs ont également quitté récemment.

Brundage a passé les six dernières années chez OpenAI à conseiller la direction et le conseil d'administration pour aider l'entreprise à se préparer aux progrès rapides de l'intelligence artificielle. Ses contributions à la recherche sur la sécurité ne peuvent être sous-estimées, notamment l'introduction d'un mécanisme externe d'équipe rouge, qui permet à des experts externes de participer à la détection de problèmes potentiels dans les produits OpenAI.

Brundage a mentionné que lui et OpenAI n'étaient pas d'accord sur les limites des publications de recherche et estimaient que ces limites étaient de plus en plus difficiles à accepter. Il estime que son travail au sein d’OpenAI a affecté l’objectivité de ses recherches, ce qui rend difficile pour lui de rester impartial sur l’avenir de la politique en matière d’IA. Il a également mentionné sur les réseaux sociaux qu'il existe une opinion commune au sein d'OpenAI selon laquelle « le prix à payer pour s'exprimer est élevé, et seules certaines personnes peuvent le faire ».

Le départ de cette série de dirigeants a non seulement attiré davantage l'attention sur l'orientation future d'OpenAI, mais a également soulevé davantage de questions sur sa culture interne et son mécanisme de prise de décision.

Souligner:

Brundage a annoncé son départ d'OpenAI et l'équipe de préparation de l'AGI sera également dissoute.

Il souhaite plus de liberté pour publier des recherches, reflétant les désaccords avec les entreprises sur les restrictions en matière de recherche.

Récemment, de nombreux cadres supérieurs ont démissionné et le monde extérieur a prêté attention au développement futur et à la culture interne d'OpenAI.