Meta se enfrenta a una demanda multiestatal por manipulación de menores; Alarmante aumento del material de abuso generado por IA
Summary:
Meta, la empresa matriz de Facebook e Instagram, se enfrenta a una demanda de 34 estados de EE.UU. por manipulación indebida de usuarios menores de edad en sus plataformas. Las acusaciones se centran en que los algoritmos de Meta fomentan el comportamiento adictivo y afectan negativamente el bienestar mental de los menores. La demanda surge en medio de los rápidos avances en inteligencia artificial (IA), que Meta ha estado utilizando para abordar problemas de seguridad y confianza. En el Reino Unido, la Internet Watch Foundation (IWF) ha expresado su preocupación por el aumento del material de abuso sexual infantil generado por IA y ha pedido medidas globales para frenar esta inquietante tendencia.
Meta, propietaria de los gigantes de las redes sociales Facebook e Instagram, se enfrenta a una demanda de 34 estados de Estados Unidos. La acusación alega que la compañía se involucra en una manipulación poco ética de usuarios menores de edad en su plataforma. Parece que esta acción legal ha surgido en medio de rápidos avances en inteligencia artificial (IA), particularmente en áreas como el texto y la IA generativa.
Estados como California, Nueva York, Ohio, Dakota del Sur, Virginia y Luisiana, entre otros, han acusado a Meta de explotar sus algoritmos para fomentar tendencias adictivas y afectar negativamente a la salud mental de los usuarios jóvenes, a través de funciones como el botón "Me gusta".
A pesar de que el científico jefe de IA de Meta abordó recientemente las preocupaciones sobre los riesgos potenciales relacionados con la tecnología de IA, la compañía ha utilizado la IA para mejorar la seguridad y la confianza dentro de sus plataformas. Pero el desafío legal de varios estados continúa sin cesar.
La fuente de la imagen de presentación en el sitio CourtListener ha revelado que los representantes legales de los estados están buscando diferentes cantidades de compensación financiera, que varían de $ 5,000 a $ 25,000 por presunta violación. Hasta el momento de escribir este artículo, a pesar de ponerse en contacto con Meta, Cointelegraph no ha recibido ninguna respuesta de la empresa.
Al mismo tiempo, la Internet Watch Foundation (IWF), con sede en el Reino Unido, ha emitido una advertencia sobre el crecimiento exponencial del material de abuso sexual infantil (CSAM) generado por IA. La IWF descubrió recientemente 20.254 imágenes CSAM producidas por IA en una única plataforma de la web oscura en tan solo 30 días. El grupo advierte que una afluencia de contenido tan inquietante amenaza con inundar Internet.
Para hacer frente al aumento de la CSAM, la organización británica pide un enfoque unificado internacional. Aconsejan una combinación de revisión de la legislación existente, mejora de la formación de los organismos encargados de hacer cumplir la ley e implementación de la supervisión regulatoria para los modelos de IA.
En un intento por limitar la contribución de los desarrolladores de IA a la generación de contenido de abuso infantil, la IWF propone la prohibición de los contenidos dañinos generados por IA, la exclusión de los modelos asociados y el énfasis en erradicar dicho material de los modelos de IA.
Con la progresión de los generadores de imágenes de IA generativa, la reproducción de semejanzas humanas convincentes ha mejorado notablemente. Plataformas como Midjourney, Runway, Stable Diffusion y Dall-E de OpenAI, que generan imágenes altamente realistas, demuestran este avance.
Published At
10/26/2023 10:11:58 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.