Растущая угроза дипфейков, генерируемых искусственным интеллектом, в политике: вызов выборов 2024 года
Summary:
По мере приближения выборов 2024 года США борются с ростом политических дипфейков, генерируемых искусственным интеллектом, частота которых в Северной Америке резко возросла на 1 740%. Эта новая тенденция к мошенничеству привела к законодательным действиям, таким как запрет голосов, генерируемых искусственным интеллектом, в автоматических звонках. Тем не менее, эксперты предупреждают, что технологический прогресс вскоре может сделать обнаружение человеческим глазом невозможным без специализированных технологий. Предлагаемые решения включают обязательную проверку контента на основе искусственного интеллекта и верификацию пользователей на платформах социальных сетей. Правительства по всему миру рассматривают адекватные меры для решения этой проблемы: Индия ищет механизмы одобрения, а Европа устанавливает руководящие принципы по дезинформации ИИ.
По мере приближения избирательного цикла 2024 года Соединенные Штаты, наряду с другими мировыми странами, готовятся к вызову иного рода, который представляют собой новые технологии. Появление инструментов искусственного интеллекта, доступных для общественности, вызвало всплеск политических дипфейков, требующих от избирателей оттачивать свои навыки проницательности, чтобы отделить факты от вымысла. Председатель сенатского комитета по разведке Марк Уорнер 27 февраля заявил, что США хуже подготовлены к борьбе с фальсификациями на предстоящих выборах по сравнению с предыдущими выборами 2020 года. Такая ситуация в первую очередь связана с распространением в стране дипфейков, сгенерированных искусственным интеллектом, в течение предыдущего года. Данные сервиса проверки личности SumSub показывают, что в Северной Америке наблюдается колоссальный рост числа случаев дипфейков на 1 740%, а в 2023 году глобальное увеличение обнаружения таких случаев увеличилось в десять раз. В шокирующем инциденте жители Нью-Гэмпшира 20-21 января получили автоматические звонки, имитирующие голос президента Джо Байдена, в котором им предлагалось не голосовать на праймериз 23 января. Это привело к тому, что через неделю регулирующие органы США запретили использование голосов, сгенерированных искусственным интеллектом, в автоматизированном телефонном мошенничестве, что сделало такие действия нарушением законов США о телемаркетинге. Однако такие правовые меры часто не останавливают мошенников. По мере того, как страна готовится к «супервторнику» 5 марта, дню, когда в значительном количестве штатов США проходят первичные выборы и кокусы, опасения по поводу фальшивой информации, генерируемой искусственным интеллектом, и дипфейков стремительно растут. Павел Гольдман Калайдин, руководитель отдела искусственного интеллекта и машинного обучения в SumSub, уточнил, как избиратели могут научиться распознавать дипфейки и управлять потенциальными случаями мошенничества с дипфейками. Калайдин подчеркнул необходимость выявления дипфейков, созданных передовыми технологическими группами с использованием высокопроизводительных графических процессоров и моделей генеративного искусственного интеллекта, и тех, которые были сфабрикованы менее изощренными мошенниками с использованием стандартных инструментов. Он призвал избирателей тщательно изучать контент и проверять источники информации, отличая надежные, заслуживающие доверия источники от неоднозначных. Он выявил несколько признаков присутствия дипфейков, таких как непоследовательные движения рук, искусственный фон, изменения освещения, различия в тоне кожи, необычные движения глаз, несоответствия синхронизации губ и цифровые артефакты. Но он предупредил, что быстро развивающиеся технологии вскоре могут сделать невозможным идентификацию дипфейков человеком без необходимости в специализированных технологиях обнаружения. Калайдин отметил, что растущая проблема заключается в генерации дипфейков и последующем распространении. Несмотря на многочисленные возможности, которые предоставляет доступность ИИ, он также виновен в росте мошеннического контента. Он рассказал: «Любой может получить доступ к приложениям для обмена и трансформации контента, чтобы раскручивать фальшивые истории, благодаря доступности технологии искусственного интеллекта». Он добавил, что отсутствие разумного правового регулирования и политики способствовало распространению дезинформации в Интернете, которая вводит избирателей в заблуждение, увеличивая риск принятия необоснованных решений. В качестве потенциального решения он предложил необходимость обязательной проверки ИИ или дипфейк-контента на платформах социальных сетей для информирования пользователей. «Чтобы защитить пользователей от ложной информации и дипфейков, платформам необходимо внедрять технологии дипфейков и визуального обнаружения для подтверждения подлинности контента», — сказал он. Он также предложил внедрить верификацию пользователей на платформах. Правительства по всему миру также начали обдумывать возможные меры. Местным технологическим компаниям в Индии было рекомендовано получить одобрение, прежде чем запускать новые «ненадежные» публичные инструменты искусственного интеллекта в преддверии выборов 2024 года. Европейская комиссия сформулировала рекомендации по дезинформации ИИ для платформ, работающих на ее территории. Следуя примеру Комиссии, Meta, Facebook и материнская компания Instagram запустили свою стратегию для ЕС по борьбе со злоупотреблением генеративным искусственным интеллектом в контенте на своих платформах.
Published At
3/5/2024 4:45:25 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.