Указ Байдена о безопасности ИИ вызвал отраслевые дебаты
Summary:
Администрация США при президенте Джо Байдене недавно объявила об обширном указе, посвященном стандартам безопасности ИИ. Директива положила начало разработке шести новых норм безопасности для ИИ и способствовала этичному использованию ИИ в государственных секторах. В то время как профессионалы отрасли пытаются понять последствия этих широких постановлений, небольшие предприятия опасаются потенциальных ограничений. Поднялась волна отзывов, критикующих директиву за то, что она потенциально препятствует инновациям. Агентства набирают сотрудников в недавно сформированный Консорциум Института безопасности искусственного интеллекта для выполнения целей заказа.
Стремясь защитить граждан, официальные правительственные учреждения и корпоративный сектор, администрация президента США Джо Байдена недавно ввела обширный указ, посвященный правилам безопасности ИИ. В этой директиве сформулированы шесть новых принципов безопасности и защиты ИИ, стимулирующих этичное внедрение ИИ в государственных органах. Говоря об этом указе, Байден подтвердил, что он соответствует общепринятым представлениям о «безопасности, надежности, доверии, открытости».
Директива включает в себя общие постановления, такие как раскрытие оценок безопасности должностным лицам компаний, разрабатывающих потенциально рискованные основополагающие модели, и ускорение методов сохранения конфиденциальности. Отсутствие четких объяснений, однако, заставило профессионалов отрасли усомниться в его потенциальном влиянии на разработку первоклассных моделей. По словам Адама Страка, основателя Struck Capital и инвестора в области искусственного интеллекта, этот приказ означает «серьезное отношение к возможностям искусственного интеллекта для трансформации отраслей». Он также указал на трудности для разработчиков в прогнозировании будущих опасностей на основе предположений законодательства о еще не завершенных продуктах.
Что касается потенциального влияния на сообщества разработчиков ПО с открытым исходным кодом, Страк считает это сложным из-за расплывчатости директивы, но оптимистично настроен в отношении усилий администрации по управлению реализацией через руководителей ИИ и советы по управлению ИИ. Эти усилия свидетельствуют о том, что компании, разрабатывающие модели в рамках этих агентств, будут иметь более четкое представление о нормативно-правовой базе.
Правительство уже задокументировало более 700 тематических исследований на своем эксклюзивном портале ИИ, демонстрирующих внутреннее использование ИИ. Венчурный капиталист Мартин Касадо вместе с многочисленными исследователями ИИ, учеными и основателями направил письмо в администрацию Байдена, в котором выразил обеспокоенность по поводу потенциала указа по ограничению ИИ с открытым исходным кодом.
Многие считают, что этот указ слишком всеобъемлющ в определении определенных типов моделей ИИ, и обеспокоены тем, что малые предприятия могут столкнуться с трудностями при выполнении предварительных требований, предназначенных для более крупных компаний. Аналогичным образом, Джефф Амико, операционный директор Gensyn AI, раскритиковал приказ за то, что он наносит ущерб инновациям в США.
В то время как четкие правила могут принести пользу компаниям, разрабатывающим продукты, ориентированные на ИИ, Адам Страк подчеркнул важность учета расхождения целей между крупными технологическими гигантами, такими как OpenAI или Anthropic, и подающими надежды стартапами в области ИИ. Мэтью Путман, генеральный директор и соучредитель Nanotronics, подчеркнул необходимость правил, обеспечивающих безопасность и этичную разработку ИИ в более широких масштабах.
В то время как индустрия искусственного интеллекта пытается понять недавно выпущенный приказ, Национальный институт стандартов и технологий США и Министерство торговли уже начали набор в свой недавно сформированный консорциум Института безопасности искусственного интеллекта.
Published At
11/7/2023 1:08:20 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.