OpenAI запустит «Систему готовности» для оценки рисков ИИ после восстановления генерального директора
Summary:
OpenAI, разработчик искусственного интеллекта (ИИ), планирует представить «Структуру готовности». Эта схема включает в себя специальную команду, которой поручено оценить потенциальные риски. Стратегия направлена на добавление системы сдержек и противовесов для защиты от возможных рисков, связанных с продвинутыми моделями. План включает в себя процесс, в ходе которого отчеты по безопасности изучаются, а затем отправляются на рассмотрение на уровне компании, при этом новая структура позволяет совету директоров отменять решения по безопасности. Этому предшествовал турбулентный период для OpenAI, когда генеральный директор Сэм Альтман был уволен, а затем восстановлен в должности. На фоне растущего общественного интереса и опасений по поводу ИИ ведущие разработчики, в том числе OpenAI, учредили The Frontier Forum для саморегулирования, а администрация Байдена наметила новые стандарты безопасности ИИ.
OpenAI, разработчик искусственного интеллекта (ИИ), недавно обнародовал планы по запуску «Системы готовности». Эта стратегия предполагает формирование специальной команды, целью которой является оценка и прогнозирование потенциальных рисков. В недавно опубликованном сообщении в блоге компании, датированном 18 декабря, говорится, что эта «Команда готовности» свяжет подразделения безопасности и политики OpenAI. Ожидается, что эта система, функционирующая по принципу сдержек и противовесов, будет выступать в качестве защиты от неминуемых «катастрофических рисков», вызванных все более сложными моделями. OpenAI настаивала на том, что будет внедрять свою технологию только при условии обеспечения безопасности. Недавно предложенная стратегия предполагает, что консультативная группа тщательно изучает отчеты о безопасности, которые затем будут направлены руководителям компании и совету директоров OpenAI для рассмотрения. Несмотря на то, что руководители имеют право выносить окончательный вердикт, последнее предложение дает совету директоров возможность отменять решения по безопасности. Этот шаг является следствием потрясений, которые OpenAI пережила еще в ноябре, отмеченных внезапным увольнением и последующим восстановлением Сэма Альтмана на посту генерального директора. После возвращения Альтмана в компанию OpenAI объявила о своем новом совете директоров, в который вошли Брет Тейлор (председатель), Ларри Саммерс и Адам Д'Анджело. В свете недавних запусков, таких как ChatGPT в ноябре 2022 года, общественный интерес к ИИ резко возрос в тандеме с растущими опасениями по поводу его потенциального вреда для общества. Еще в июле ведущие разработчики ИИ, среди которых такие участники, как OpenAI, Microsoft, Google и Antropic, запустили The Frontier Forum. Этот форум посвящен надзору за саморегулированием, введенным в разработку ответственного ИИ. В октябре администрация Байдена также представила указ, определяющий новые ограничения безопасности для организаций, разрабатывающих передовые модели и выполняющих их. Перед объявлением этого указа ведущие разработчики ИИ были вызваны в Белый дом, чтобы заявить о своей приверженности созданию безопасных и прозрачных моделей ИИ, в том числе и OpenAI.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.