NIST ищет мнения общественности по вопросам безопасной и этичной разработки систем ИИ
Summary:
Национальный институт стандартов и технологий (NIST) опубликовал запрос на информацию (RFI) для сбора мнений общественности о безопасной разработке и применении искусственного интеллекта (ИИ). В соответствии с указом президента Байдена NIST стремится получить представление об управлении рисками генеративного ИИ и способах уменьшить дезинформацию, генерируемую ИИ. Институт также изучает эффективные области для red-teaming - стратегии, используемой для выявления уязвимостей в системе. Этот запрос является частью более широкой инициативы NIST по поддержке сообщества ИИ в ответственной и надежной разработке систем ИИ, а также в распространении ориентированного на человека подхода к безопасности и управлению ИИ.
Национальный институт стандартов и технологий (NIST) Министерства торговли США выпустил запрос на информацию (RFI) в рамках своих обязанностей в соответствии с последним Указом Президента о безопасной и этичной разработке и внедрении искусственного интеллекта (ИИ). Институт открыл процесс общественного обсуждения до 2 февраля, чтобы собрать важнейшую информацию, которая будет использоваться для тестирования безопасности систем ИИ. Министр торговли Джина Раймондо отметила, что октябрьская исполнительная директива президента Джо Байдена, которая поручает NIST разработать руководящие принципы, поощрять согласованные стандарты и создавать среды тестирования для оценки ИИ, мотивирует эту инициативу. Этот план направлен на оказание помощи сектору ИИ в безопасном, надежном и этичном развитии ИИ.
Запрос информации от NIST предлагает компаниям, занимающимся ИИ, и общественности идеи об управлении рисками генеративного ИИ и снижении рисков дезинформации, вызванных ИИ. Генеративный ИИ, который может создавать текст, изображения и видео на основе неоднозначных подсказок, вызвал как волнение, так и беспокойство. Есть опасения по поводу потери рабочих мест, беспорядков на выборах, а также того, что потенциал технологий, превышающий человеческую компетентность, может привести к катастрофическим последствиям.
RFI также запрашивает информацию об оптимальных областях для выполнения «красной команды» во время анализа рисков ИИ и установления лучших практик. Термин «красная команда», заимствованный из симуляций холодной войны, используется для обозначения метода, при котором группа, известная как «красная команда», имитирует возможные состязательные ситуации или атаки, чтобы выявить слабые места и уязвимости системы, процесса или организации. Эта методика уже давно используется в кибербезопасности для обнаружения новых угроз. В связи с этим следует отметить, что первое в истории публичное мероприятие в США состоялось в августе на конференции по кибербезопасности, организованной AI Village, SeedAI и Humane Intelligence.
Объявление NIST о создании нового консорциума по искусственному интеллекту в ноябре, а также официальное уведомление, призывающее к подаче заявок с соответствующей квалификацией, стало важной вехой. Целью этого консорциума является разработка и реализация конкретных политик и мер, чтобы убедиться, что американские политики выбирают человекоцентричный подход к безопасности и администрированию ИИ.
Published At
12/20/2023 11:46:51 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.