Перестановки в OpenAI: ключевые исследователи ушли в отставку из-за разных взглядов на приоритеты безопасности ИИ
Summary:
Ключевые исследователи из команды OpenAI, специализирующиеся на потенциальных рисках ИИ, либо ушли в отставку, либо были переназначены на другую должность из-за разногласий по поводу приоритетов организации. Это произошло после ухода Ильи Суцкевера, главного научного сотрудника OpenAI, и Яна Лейке, соруководителя команды супервыравнивания. Лейке подчеркнул острую потребность в ресурсах для исследований в области безопасности, раскритиковав OpenAI за то, что она отдает приоритет разработке продуктов, а не безопасности ИИ. Недавнее решение о роспуске команды «Superalignment» произошло на фоне продолжающейся внутренней реструктуризации компании. Ранее Суцкевер указывал, что решения совета директоров были направлены на то, чтобы обеспечить приверженность OpenAI разработке AGI на благо человечества.
В недавних новостях OpenAI увидела полный сдвиг в своей команде, которая яростно исследовала потенциальные опасности искусственного интеллекта, при этом все члены либо покинули свои посты, либо были переведены в различные исследовательские фракции. Это произошло сразу после того, как главный научный сотрудник и соучредитель OpenAI Илья Суцкевер объявил о своем решении покинуть компанию. Более того, Ян Лейке, ранее связанный с DeepMind, ушел со своего поста и официально сообщил о своей отставке на платформе X.
Уход Лейке был связан с его недоверием к текущим целям компании, которые, по его мнению, смещаются в сторону сосредоточения на совершенствовании продукта, а не на утверждении важности безопасности ИИ. В ряде публикаций Ян Лейке не согласился с директивными акцентами OpenAI и призвал руководство обратить внимание на безопасность и готовность в отношении развития AGI или общего искусственного интеллекта, теоретической формы искусственного интеллекта, которая, как ожидается, будет соответствовать или даже превосходить человеческие способности в выполнении широкого спектра задач.
Посвятив три года своей карьеры OpenAI, Лейке выразил обеспокоенность по поводу преференциального отношения организации к разработке гламурных продуктов, отодвинув на второй план важнейшее воспитание здоровой культуры и систем, ориентированных на безопасность ИИ. Он категорически подчеркивал необходимость перераспределения ресурсов, в первую очередь вычислительного мастерства, для поддержки существенных исследований, ориентированных на безопасность, возглавляемых его командой, задача, которая была демонстративно проигнорирована.
В июле прошлого года OpenAI предприняла попытку создания новой исследовательской группы с целью подготовки к возможному появлению гениально эффективного искусственного интеллекта, способного опередить и превзойти своих изобретателей. Сопредседателем этой новой фракции стал главный научный сотрудник и соучредитель OpenAI Илья Суцкевер, которому принадлежит 20% вычислительных ресурсов OpenAI.
В свете недавней волны отставок OpenAI решила распустить команду «Superalignment» и объединить ее обязанности с другими исследовательскими предприятиями, находящимися в ее компетенции. Этот шаг воспринимается как следствие реструктуризации внутри организации, которая возникла в связи с кризисом управления, поразившим в ноябре 2023 года. Суцкевер сыграл значительную роль в содействии кратковременному вытеснению генерального директора Альтмана из совета директоров OpenAI в этот период, который вскоре был восстановлен в должности из-за сопротивления со стороны сотрудников.
Как сообщается, Суцкевер разъяснил сотрудникам, что решение совета директоров лишить Сэма Альтмана его должности было согласовано с их мандатом по обеспечению того, чтобы разработка OpenAI AGI отвечала интересам человечества. Будучи ключевой фигурой среди шести членов совета, Суцкевер повторил приверженность совета укреплению миссии OpenAI в гармонии с общей целью.
Published At
5/18/2024 2:30:32 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.