OpenAI потеряла еще одного руководителя! Консультант по безопасности и руководитель группы AGI с 6-летним стажем уходит

Недавно OpenAI сообщила об очередной отставке Майлз Брандейдж, консультант по политике безопасности и руководитель группы подготовки AGI, объявил о своем уходе из компании и сообщил, что возглавляемая им команда также будет расформирована, а ее члены будут переведены в другие отделы.

Брандейдж подробно объяснил свое решение в сообщении в социальной сети X. Он сказал, что основная причина ухода из OpenAI заключалась в том, чтобы иметь больше независимости и свободу публиковать исследования.

Стоит отметить, что Брандейдж — не единственный исследователь безопасности, покинувший компанию на высоком уровне. Уже в мае этого года OpenAI распустила свою команду Super Alignment, которая в основном отвечала за оценку рисков искусственного суперинтеллекта. С тех пор ушли и два лидера команды – Ян Лейке и Илья Суцвер.

Кроме того, недавно покинули компанию главный технический директор компании Мира Мурати, главный научный сотрудник Боб МакГрю, вице-президент по исследованиям Баррет Зоф и другие старшие руководители.

Брандейдж провел последние шесть лет в OpenAI, консультируя руководство и совет директоров, помогая компании подготовиться к быстрому развитию искусственного интеллекта. Его вклад в исследования безопасности нельзя недооценивать, включая внедрение механизма внешней красной команды, который позволяет внешним экспертам участвовать в обнаружении потенциальных проблем в продуктах OpenAI.

Брандейдж упомянул, что он и OpenAI расходятся во мнениях по поводу ограничений исследовательских выпусков и считают, что с этими ограничениями становится все труднее согласиться. Он считает, что его работа в OpenAI повлияла на объективность его исследований, из-за чего ему стало трудно оставаться беспристрастным в отношении будущего политики в области ИИ. Он также упомянул в социальных сетях, что в OpenAI распространено мнение, что «цена высказывания высока, и только некоторые люди могут это сделать».

Уход этой группы руководителей не только привлек больше внимания к будущему направлению OpenAI, но и поднял больше вопросов о ее внутренней культуре и механизме принятия решений.

Выделять:

Брандейдж объявил о своем уходе из OpenAI, а также будет расформирована команда подготовки AGI.

Он хочет большей свободы для публикации исследований, что отражает разногласия с компаниями по поводу ограничений на исследования.

Недавно многие руководители высшего звена ушли в отставку, и внешний мир обратил внимание на будущее развитие и внутреннюю культуру OpenAI.