Meta накладывает невидимые водяные знаки на изображения, созданные искусственным интеллектом, чтобы пресечь неправомерное использование
Summary:
Meta, компания, ранее известная как Facebook, планирует добавить невидимые водяные знаки ко всем изображениям, созданным с помощью инструмента искусственного интеллекта (ИИ), чтобы предотвратить неправомерное использование. В отличие от традиционных водяных знаков, они не поддаются обычным манипуляциям с изображением и не могут быть легко удалены. Первоначально сервис водяных знаков применялся к изображениям, созданным Meta AI, а затем распространится и на другие сервисы Meta, использующие ИИ для создания изображений. Функция «переосмысления» для Facebook Messenger и Instagram, которая позволяет пользователям обмениваться изображениями на основе искусственного интеллекта, также получит эту функцию. Это изменение является ответом на всплеск мошенничества с помощью искусственного интеллекта, которое фабрикует вводящий в заблуждение контент, как это видно по поддельным видео, аудио и изображениям, которые циркулируют в Интернете.
Meta, компания, ранее известная как Facebook, объявила о планах встраивать скрытые водяные знаки во все изображения, созданные с помощью искусственного интеллекта (ИИ), в рамках своей стратегии по предотвращению неправомерного использования технологии. Согласно обновлению, предоставленному 6 декабря в отношении Meta AI - интеллектуального помощника фирмы - невидимый водяной знак скоро будет включен в каждое изображение, сгенерированное искусственным интеллектом, возникающее в результате «imagine with Meta AI». Как и другие чат-боты с искусственным интеллектом, Meta AI создает изображения и контент на основе вводимых пользователями данных. Тем не менее, в отличие от своих коллег, Meta намерена препятствовать злоупотреблениям, отказываясь использовать свой ресурс в качестве инструмента для обмана.
Функция входящего невидимого водяного знака будет устойчива к попыткам удаления со стороны авторов. «В ближайшие недели скрытый водяной знак будет интегрирован в «Imagine with Meta AI experience» для повышения прозрачности и подотчетности», — заявили в Meta. Модель глубокого обучения будет использоваться для нанесения водяных знаков, необнаруживаемых человеческим глазом, на изображения, изготовленные с помощью инструмента искусственного интеллекта. Тем не менее, скрытые водяные знаки могут быть идентифицированы с помощью соответствующей модели. Обычные водяные знаки не соответствуют заявленным Meta водяным знакам с искусственным интеллектом, известным как «представьте с помощью Meta AI», которые устойчивы к обычным изменениям изображений, включая обрезку, изменение цвета (регулировка яркости или контрастности), скриншоты и многое другое.
Первоначально сервис водяных знаков будет применяться к изображениям, созданным с помощью Meta AI, но есть планы распространить эту функцию на другие сервисы, использующие ИИ для создания изображений. Кроме того, Meta AI запустила функцию «переосмысления» для Facebook Messenger и Instagram. Это обновление облегчает обмен изображениями на основе искусственного интеллекта между пользователями и интегрирует функцию скрытых водяных знаков в обе платформы обмена сообщениями.
Платформы искусственного интеллекта, такие как Dall-E и Midjourney, уже предлагают возможность включения традиционных водяных знаков в свой контент. Тем не менее, их можно легко удалить, обрезав изображение по периферии. Некоторые инструменты искусственного интеллекта могут даже автоматически удалять водяные знаки с изображений, что, как утверждает Meta AI, будет непрактичным для их продукта.
После популяризации инструментов генеративного ИИ множество деловых организаций и знаменитостей осудили мошеннические предприятия с использованием ИИ. Мошенники используют удобные инструменты для создания фальсифицированных видео, аудио и изображений известных людей, которые затем распространяются в Интернете.
В мае состряпанный искусственным интеллектом снимок, изображающий взрыв недалеко от Пентагона, штаб-квартиры Министерства обороны США, на мгновение привел к падению фондового рынка. Это сфабрикованное изображение впоследствии было распространено и распространено другими новостными изданиями, тем самым вызвав каскадный эффект. Тем не менее, местные правоохранительные органы, в том числе Агентство по охране сил Пентагона, отвечающее за безопасность здания, опровергли распространяемые сообщения, подчеркнув, что «никакого взрыва или инцидента не было».
В том же месяце правозащитная организация Amnesty International была обманута сгенерированным искусственным интеллектом изображением, якобы демонстрирующим притеснения со стороны полиции, которое впоследствии использовалось для кампаний против правоохранительных органов. Эрика Гевара Росас, директор Amnesty International в Северной и Южной Америке, признала ошибку, заявив: «Мы удалили изображения из обновлений в социальных сетях, поскольку не хотим, чтобы спор об использовании изображений, состряпанных искусственным интеллектом, отодвинул на второй план поддержку жертв и их призывы к правосудию в Колумбии».
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.