Ветераны OpenAI и партнер Y Combinator запускают Safe Superintelligence, Inc. для повышения безопасности ИИ
Summary:
Илья Суцкевер, бывший главный научный сотрудник OpenAI, и Дэниел Леви, бывший инженер OpenAI, сотрудничали с Дэниелом Гроссом, бывшим партнером стартап-акселератора Y Combinator, чтобы запустить Safe Superintelligence, Inc. (SSI). Американская компания стремится повысить безопасность и возможности искусственного интеллекта (ИИ). Наряду с опасениями по поводу безопасности ИИ, бывшие сотрудники OpenAI и крупные технологические фигуры, в том числе соучредитель Ethereum Виталик Бутерин, генеральный директор Tesla Илон Маск и соучредитель Apple Стив Возняк, призвали сделать паузу в обучении ИИ, чтобы рассмотреть потенциальные риски.
Илья Суцкевер, бывший главный научный сотрудник и соучредитель OpenAI, вместе с Дэниелом Леви, бывшим инженером OpenAI, объединились с Дэниелом Гроссом, бывшим партнером стартап-акселератора Y Combinator, чтобы запустить Safe Superintelligence, Inc. (SSI). Направленность и продукт этого нового предприятия отражены в его названии. SSI, с присутствием в Пало-Альто и Тель-Авиве в Соединенных Штатах, стремится продвигать искусственный интеллект (ИИ) вперед путем совместной разработки мер и возможностей безопасности, о чем было объявлено трио основателей 19 июня в Интернете. Они подчеркнули, что уделяют особое внимание тому, чтобы избежать отвлекающих факторов, вызванных вопросами управления или производственными циклами, с помощью бизнес-модели, которая обеспечивает безопасность, защищенность и прогресс от краткосрочных коммерческих влияний.
Перед тем, как покинуть OpenAI 14 мая, Суцкевер вместе с Гроссом поделились опасениями по поводу безопасности ИИ. Суцкевер играл неопределенную роль в фирме после того, как покинул совет директоров после восстановления в должности генерального директора Сэма Альтмана. Дэниел Леви был одним из исследователей, которые покинули OpenAI вскоре после Суцкевера. Сутскевер и Ян Лейке возглавили команду OpenAI Superalignment, сформированную в июле 2023 года, чтобы изучить, как направлять и контролировать системы искусственного интеллекта, более умные, чем мы, называемые общим искусственным интеллектом (AGI). Во время своего создания OpenAI выделила 20% своих вычислительных мощностей этой команде.
Тем не менее, Лейке также покинул организацию в мае и теперь возглавляет команду в Anthropic, стартапе в области искусственного интеллекта, поддерживаемом Amazon. Компания аргументировала свои меры предосторожности в подробном посте президента компании Грега Брокмана, но распустила команду Superalignment после того, как ее исследователи покинули ее в мае.
Бывшие следователи OpenAI не одиноки в выражении опасений по поводу будущего курса ИИ. На фоне кадровых перестановок в OpenAI соучредитель Ethereum Виталик Бутерин назвал AGI «рискованным». Тем не менее, он также поделился, что такие модели представляют собой значительно меньший «риск гибели», чем корпоративная жадность и вооруженные силы.
Бывший сторонник OpenAI, генеральный директор Tesla Илон Маск и соучредитель Apple Стив Возняк присоединились к более чем 2600 техническим экспертам и исследователям, которые попросили приостановить обучение систем искусственного интеллекта на шесть месяцев, чтобы задуматься о «глубоком риске», который они несут.
В объявлении о запуске SSI также упоминается, что компания ищет исследователей и инженеров.
Published At
6/20/2024 12:45:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.