Meta enfrenta processo multiestatal por manipulação de menores; Aumento alarmante de material de abuso gerado por IA
Summary:
A Meta, controladora do Facebook e do Instagram, enfrenta um processo de 34 estados dos EUA por manipulação indevida de usuários menores de idade em suas plataformas. As alegações se concentram nos algoritmos da Meta que promovem o comportamento aditivo e afetam negativamente o bem-estar mental dos menores. O processo surge em meio a rápidos avanços em inteligência artificial (IA), que a Meta tem usado para resolver questões de segurança e confiança. De volta ao Reino Unido, a Internet Watch Foundation (IWF) levantou preocupações sobre o aumento de material de abuso sexual infantil gerado por IA e pediu medidas globais para conter essa tendência perturbadora.
A Meta, dona dos gigantes das redes sociais Facebook e Instagram, enfrenta um processo de 34 estados dos EUA. A acusação alega que a empresa se envolve em manipulação antiética de usuários menores de idade em sua plataforma. Parece que essa ação legal surgiu em meio a avanços rápidos em inteligência artificial (IA), particularmente em áreas como texto e IA generativa.
Estados como Califórnia, Nova York, Ohio, Dakota do Sul, Virgínia e Louisiana acusaram a Meta de explorar seus algoritmos para incentivar tendências viciantes e afetar negativamente a saúde mental de usuários jovens, por meio de recursos como o botão "Curtir".
Apesar de o cientista-chefe de IA da Meta ter abordado recentemente preocupações sobre os riscos potenciais ligados à tecnologia de IA, a empresa utilizou a IA para aumentar a segurança e a confiança em suas plataformas. Mas a contestação legal de vários estados continua inabalável.
A fonte da imagem do arquivamento no site CourtListener revelou que os representantes legais dos estados estão buscando diferentes quantias de compensação financeira, variando de US$ 5.000 a US$ 25.000 por suposta violação. Até o momento desta publicação, apesar de entrar em contato com a Meta, o Cointelegraph não recebeu nenhuma resposta da empresa.
Simultaneamente, a Internet Watch Foundation (IWF), com sede no Reino Unido, emitiu um alerta sobre o crescimento exponencial de material de abuso sexual infantil gerado por IA (CSAM). O IWF descobriu recentemente 20.254 imagens CSAM produzidas por IA em uma única plataforma da dark web em apenas 30 dias. O grupo alerta que um fluxo tão perturbador de conteúdo ameaça inundar a internet.
Para enfrentar o aumento da CSAM, a organização do Reino Unido pede uma abordagem unificada internacional. Eles aconselham uma combinação de revisão da legislação existente, melhoria do treinamento das agências de aplicação da lei e implementação de supervisão regulatória para modelos de IA.
Em uma tentativa de limitar a contribuição dos desenvolvedores de IA para a geração de conteúdo de abuso infantil, a IWF propõe a proibição de conteúdo prejudicial gerado por IA, a exclusão de modelos associados e uma ênfase na erradicação desse material dos modelos de IA.
Com a progressão dos geradores de imagens de IA generativa, a reprodução de semelhanças humanas convincentes melhorou consideravelmente. Plataformas como Midjourney, Runway, Stable Diffusion e Dall-E da OpenAI, que geram imagens altamente realistas, demonstram esse avanço.
Published At
10/26/2023 10:11:58 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.