Руководители OpenAI оспаривают критику безопасности после отставки топ-менеджера по безопасности
Summary:
Генеральный директор OpenAI Сэм Альтман и президент Грег Брокман публично обсудили недавнюю отставку главного специалиста по безопасности Яна Лейке на онлайн-платформе X.com. Лейке обвинил компанию в том, что она отдает приоритет продуктам, а не мерам безопасности. Отвечая на обвинения, руководители компании заявили, что OpenAI стремится усилить меры безопасности. Брокман уточнил трехступенчатую стратегию компании по согласованию безопасности и сказал, что сроки выпуска могут быть отложены по соображениям безопасности. Альтман, хотя и согласился с некоторыми пунктами Лейке, заверил в неизменной приверженности соблюдению стандартов безопасности.
Генеральный директор и президент OpenAI Сэм Альтман и Грег Брокман соответственно вышли на онлайн-платформу в X.com, чтобы открыто обсудить недавний уход Яна Лейке, ключевого сотрудника по безопасности, который работал в компании. Согласно недавнему отчету Cointelegraph, Лейке руководил отделом выравнивания, прежде чем подать в отставку 17 мая, сославшись на разногласия с исполнительной командой фирмы. В своем аккаунте @janleike на X.com он заявил, что глянцевые товары OpenAI затмили протоколы и процессы безопасности.
Альтман и Брокман быстро ответили на эти обвинения, поделившись своими ответами на X.com в течение дня после публикации Лейке. В своем длинном выступлении Брокман изложил трехстороннюю схему поддержания согласованности безопасности внутри фирмы. Высоко оценив вклад Лейке, он отверг идею о том, что OpenAI отодвигает на второй план соображения безопасности. По словам @gdb на X.com: «Мы повысили осведомленность о рисках и перспективах, связанных с AGI», — начал Брокман, утверждая, что компания требовала глобального контроля над AGI до того, как это стало тенденцией.
«Более того, мы начали намечать основы, необходимые для безопасного использования все более совершенных систем. Обеспечение безопасности новой технологии — непростая задача», — добавил он. В заключение он предупредил о будущих проблемах, настаивая на необходимости повышения безопасности OpenAI, чтобы соответствовать значимости каждой новой модели.
Он указал на то, что компания не следует крупным технологическим нормам быстрого прогресса и сбоев. Он сказал: «Мы не уверены, когда мы выполним наши стандарты безопасности для запуска, даже если это приведет к задержке сроков выпуска».
С другой стороны, Сэм Альтман, генеральный директор и соучредитель, ответил кратко, но намекнул на дальнейшее обсуждение этого вопроса в будущем. Ссылаясь на жалобы Лейке, Альтман признал: «Он прав. Впереди у нас еще много работы; И мы полны решимости это сделать».
Новости по теме: После предложенного соглашения об обмене данными с OpenAI акции Reddit упали на пост-рынке.
Published At
5/19/2024 7:04:24 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.