18 стран представили рекомендации по кибербезопасности для ИИ, зажгли отраслевой дискурс
Summary:
Восемнадцать стран, включая США, Великобританию и Австралию, выпустили глобальные руководящие принципы, направленные на защиту моделей ИИ от несанкционированного доступа. Рекомендации помогают компаниям, работающим с ИИ, уделять первоочередное внимание кибербезопасности в своей деятельности. Тем не менее, в документе не рассматриваются спорные темы, такие как регулирование моделей, генерирующих изображения, и дипфейков, а также методы сбора данных. Руководящие принципы появились на фоне ряда правительственных инициатив, направленных на регулирование ИИ, но также столкнулись с сопротивлением со стороны индустрии ИИ из-за опасений, что они могут помешать инновациям.
Глобальные руководящие принципы, призванные защитить модели ИИ от манипуляций, были совместно выпущены Соединенными Штатами, Великобританией, Австралией и 15 другими странами. Уделяя особое внимание безопасности моделей ИИ, эти страны 26 ноября предложили, чтобы организации, занимающиеся ИИ, уделяли приоритетное внимание кибербезопасности как фундаментальному аспекту своей деятельности.
Как отмечают эти страны, безопасность не всегда считается приоритетом в этой быстро развивающейся отрасли. Они предложили ряд общих рекомендаций, которые включают в себя тщательно контролируемую инфраструктуру ИИ, бдительность в отношении любого вмешательства в модели как до, так и после релиза, а также важность надлежащего обучения сотрудников кибербезопасности.
Интересно, что в документе не затрагиваются некоторые горячо обсуждаемые темы ИИ, такие как регулирование моделей создания изображений и дипфейков, а также методы, используемые для сбора данных и их использования для обучения моделей, последнее является спорным вопросом, из-за которого несколько компаний, занимающихся искусственным интеллектом, столкнулись с юридическими проблемами из-за обвинений в нарушении авторских прав.
Искусственный интеллект находится на критическом этапе и, возможно, является самой далеко идущей технологией нашей эпохи, подчеркнул министр внутренней безопасности США Алехандро Майоркас. Он подчеркнул, что кибербезопасность является краеугольным камнем для создания систем искусственного интеллекта, которые являются безопасными, надежными и заслуживающими доверия.
Эти руководящие принципы являются последними в усилиях правительства по упрощению регулирования ИИ, поскольку ранее в этом месяце правительства и организации ИИ собрались на саммите по безопасности ИИ в Лондоне, чтобы обсудить согласованный подход к разработке ИИ. Параллельно Европейский союз работает над своим Законом об искусственном интеллекте, чтобы регулировать эту технологическую область, а президент США Джо Байден недавно санкционировал указ, предусматривающий меры безопасности ИИ.
Однако обе эти инициативы столкнулись с сопротивлением со стороны сектора ИИ, который ссылается на потенциальные препятствия для инноваций. Недавно выпущенные руководящие принципы, пропагандирующие подход «безопасность по умолчанию», одобрены такими странами, как Канада, Франция, Германия, Израиль, Италия, Япония, Новая Зеландия, Нигерия, Норвегия, Южная Корея, Сингапур, а также компаниями, занимающимися искусственным интеллектом, такими как OpenAI, Microsoft, Google, Anthropic и Scale AI, которые принимали участие в формулировании этих рекомендаций.
Published At
11/27/2023 4:45:38 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.