Meta столкнулась с судебным иском в нескольких штатах из-за манипулирования несовершеннолетними; Тревожный рост количества материалов, генерируемых искусственным интеллектом, со стороны ИИ
Summary:
Meta, материнская компания Facebook и Instagram, столкнулась с судебным иском от 34 штатов США за неправомерное манипулирование несовершеннолетними пользователями на своих платформах. Обвинения сосредоточены на алгоритмах Meta, способствующих зависимому поведению и негативно влияющих на психическое благополучие несовершеннолетних. Иск возник на фоне быстрого прогресса в области искусственного интеллекта (ИИ), который Meta использует для решения проблем безопасности и доверия. Вернувшись в Великобританию, организация Internet Watch Foundation (IWF) выразила обеспокоенность в связи с ростом количества материалов о сексуальном насилии над детьми, созданных искусственным интеллектом, и призвала к глобальным мерам по обузданию этой тревожной тенденции.
Компания Meta, владеющая гигантами социальных сетей Facebook и Instagram, столкнулась с судебным иском из 34 штатов США. В обвинении утверждается, что компания занимается неэтичными манипуляциями с несовершеннолетними пользователями на своей платформе. Судя по всему, этот судебный иск возник на фоне стремительных успехов в области искусственного интеллекта (ИИ), особенно в таких областях, как текст и генеративный ИИ.
Штаты, включая, помимо прочего, Калифорнию, Нью-Йорк, Огайо, Южную Дакоту, Вирджинию и Луизиану, обвинили Meta в использовании своих алгоритмов для поощрения склонности к привыканию и пагубного воздействия на психическое здоровье молодых пользователей с помощью таких функций, как кнопка «Нравится».
Несмотря на то, что главный научный сотрудник Meta по искусственному интеллекту недавно выразил обеспокоенность по поводу потенциальных рисков, связанных с технологией искусственного интеллекта, компания использовала искусственный интеллект для повышения безопасности и доверия на своих платформах. Но судебные разбирательства со стороны различных штатов не ослабевают.
Источник изображений на сайте CourtListener показал, что юридические представители штатов добиваются различных сумм финансовой компенсации, варьирующихся от 5 000 до 25 000 долларов за каждое предполагаемое нарушение. До момента написания этой статьи, несмотря на обращение к Meta, Cointelegraph не получил никакого ответа от компании.
В то же время британская организация Internet Watch Foundation (IWF) выпустила предупреждение об экспоненциальном росте материалов о сексуальном насилии над детьми (CSAM), созданных искусственным интеллектом. IWF недавно обнаружила 20 254 CSAM-изображения, созданных искусственным интеллектом на одной платформе даркнета всего за 30 дней. Группа предупреждает, что такой тревожный приток контента угрожает наводнить интернет.
Чтобы справиться с ростом CSAM, британская организация призывает к международному единому подходу. Они советуют пересмотреть существующее законодательство, улучшить подготовку сотрудников правоохранительных органов и внедрить регулятивный надзор за моделями ИИ.
Стремясь ограничить вклад разработчиков ИИ в создание контента, связанного с жестоким обращением с детьми, IWF предлагает запретить вредоносный контент, созданный ИИ, исключить связанные с ним модели и сделать акцент на искоренении таких материалов из моделей ИИ.
С развитием генераторов изображений с помощью генеративного ИИ воспроизведение убедительных человеческих образов заметно улучшилось. Такие платформы, как Midjourney, Runway, Stable Diffusion и Dall-E от OpenAI, которые генерируют высокореалистичные изображения, демонстрируют это достижение.
Published At
10/26/2023 10:11:58 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.