OpenAI срывает онлайн-кампании, используя свой ИИ для цифрового обмана
Summary:
Компания OpenAI, занимающаяся искусственным интеллектом, вмешалась, чтобы остановить несколько онлайн-кампаний, которые использовали ее технологию для манипулирования глобальным общественным мнением. За последние три месяца компания деактивировала аккаунты, задействованные в подобной деятельности. Злоумышленники использовали искусственный интеллект для создания комментариев, имен и биографий, а также для перевода и редактирования текста в своих мошеннических целях. OpenAI заявила, что эти тайные операции были сосредоточены на различных противоречиях, от российско-украинского конфликта до критики китайского правительства. Компания также уточнила, что такие обманчивые кампании не испытали какого-либо значительного увеличения вовлеченности аудитории или охвата благодаря своим услугам.
OpenAI, известная компания, занимающаяся искусственным интеллектом, недавно сорвала несколько онлайн-кампаний, направленных на использование технологии искусственного интеллекта для манипулирования глобальным общественным мнением. 30 мая OpenAI, основанная Сэмом Альтманом, объявила, что закрыла некоторые аккаунты, связанные с закулисными усилиями по оказанию влияния. Компания подтвердила, что за последний квартал она заблокировала пять тайных инициатив, направленных на использование ее моделей для онлайн-обмана.
Злоумышленники использовали искусственный интеллект для создания комментариев к публикациям, фабрикации имен и биографий для аккаунтов в социальных сетях, а также для перевода и редактирования текста. OpenAI, разработчики ChatGPT, сообщили, что операция, известная как «Spamouflage», использовала их услуги для зондирования социальных сетей и создания многоязычного контента на таких платформах, как X, Medium и Blogspot. Цель состояла в том, чтобы повлиять на общественное мнение и повлиять на политические результаты. Искусственный интеллект также использовался для исправления кода и администрирования баз данных вместе с веб-сайтами.
OpenAI раскрыла операцию под названием «Плохая грамматика», которая была нацелена на такие страны, как Украина, Молдова, страны Балтии и США, используя модели OpenAI для поддержки Telegram-ботов и создания политизированных комментариев. Коллектив, известный как «Доппельгангер», использовал искусственный интеллект для создания комментариев на разных языках, размещения их на X и 9GAG с целью манипулирования общественным мнением.
Компания также упомянула организацию под названием «Международный союз виртуальных медиа», которая использовала искусственный интеллект для составления длинных статей, заголовков и веб-контента для связанного с ними веб-сайта. Коммерческая фирма STOIC, которая использовала искусственный интеллект для создания статей и диалога в социальных сетях на таких платформах, как Instagram, Facebook, X и связанных с ними веб-сайтах, также, как сообщается, была нарушена OpenAI.
По данным OpenAI, посты этих различных операций охватывали широкий спектр тем, таких как российское вторжение в Украину, конфликт в Газе, выборы в Индии, западная и американская политика, а также критика китайского правительства со стороны китайских диссидентов и иностранных администраций.
Как сообщается, ведущая компания в области искусственного интеллекта впервые раскрыла, как ее уникальные инструменты были использованы для двуличия в Интернете. Бен Ниммо, главный исследователь OpenAI, заявил The New York Times, что их тематические исследования демонстрируют примеры, полученные в ходе некоторых активных, наиболее распространенных и давних кампаний влияния. OpenAI пришла к выводу, что эти операции, похоже, не получили какого-либо значимого вовлечения аудитории или охвата благодаря своим услугам.
Published At
5/31/2024 7:05:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.