Второй пилот чат-бота Microsoft с искусственным интеллектом замешан в распространении вводящей в заблуждение политической информации
Summary:
В отчете европейских некоммерческих организаций AI Forensics and AlgorithmWatch говорится, что чат-бот с искусственным интеллектом Copilot от Microsoft неточно распространяет и неверно цитирует информацию о выборах. Бот неправильно ответил на 30% основных политических вопросов в исследовании, что, возможно, привело к дезинформации. Неточности не ограничиваются Copilot; Предварительные тесты показали аналогичные результаты в Chat-GPT4. Хотя это еще не повлияло на результаты, они могут повлиять на общественное понимание и доверие. Средства защиты ИИ также непоследовательно уклоняются от вопросов. Microsoft стремится решить проблемы в преддверии выборов в США в 2024 году.
Исследование, проведенное двумя некоммерческими группами, базирующимися в Европе, показывает, что чат-бот с искусственным интеллектом Copilot от Microsoft, ранее известный как Bing, генерирует ошибочные выводы об информации о выборах и неверно ссылается на свои источники. AI Forensics и AlgorithmWatch опубликовали исследование 15 декабря, указав, что 30% ответов чат-бота Bing на элементарные вопросы о политических выборах в Германии и Швейцарии были неправильными. Эти ошибки в ответах касались различных тем, таких как кандидаты, опросы общественного мнения, споры и процессы голосования. Вопросы о президентских выборах в Америке в 2024 году также получили ошибочные ответы.
Исследователи выбрали чат-бота Bing с искусственным интеллектом для своего исследования, поскольку он был одним из первых чат-ботов с искусственным интеллектом, которые встраивали источники в свои ответы, добавив, что эти неточности были присущи не только Bing. Предварительные тесты на Chat-GPT4 также выявили несоответствия, сообщили они.
В благотворительных организациях подчеркнули, что ошибочная информация еще не повлияла на результаты выборов, но потенциально может породить общественное непонимание и дезинформацию. В заявлении содержится предупреждение: «Растущее распространение генеративного ИИ может угрожать фундаментальному столпу демократии: предоставлению достоверной и прозрачной публичной информации». Исследование также показало, что встроенные меры безопасности в чат-боте с искусственным интеллектом не всегда эффективны, что побуждает его уклоняться от вопросов в 40% случаев.
В ответ на статью Wall Street Journal об отчете Microsoft пообещала исправить проблемы до выборов в США в 2024 году. Представитель Microsoft посоветовал пользователям всегда обеспечивать точность информации, полученной от чат-ботов с искусственным интеллектом.
В октябре этого года сенаторы США внесли на рассмотрение законопроект, предусматривающий наказание за создание несанкционированных искусственных дубликатов реальных людей — живых или умерших. Meta, материнская компания Facebook и Instagram, в ноябре выпустила директиву, которая запрещает использование инструментов генеративного искусственного интеллекта для создания рекламы политическими рекламодателями в качестве гарантии от будущих выборов.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.