Comissão Europeia propõe criminalização de imagens de CSA geradas por IA e deepfakes
Summary:
A Comissão Europeia pretende criminalizar imagens geradas por IA e deepfakes relacionados ao abuso sexual infantil (CSA). Esta proposta inclui uma nova infração penal para a transmissão ao vivo do CSA, uma atualização das leis relativas à denúncia do CSA e a criminalização de chatbots de IA com temática pedófila. Essas medidas visam conter a CSA, melhorar a conscientização sobre segurança on-line, agilizar a denúncia de crimes e fornecer ajuda financeira às vítimas. Os Estados-Membros são instados a melhorar a vigilância, enquanto o Parlamento Europeu e o Conselho decidirão sobre a forma final da proposta. A proposta baseia-se no regulamento de 2022 e na crescente consciencialização para os perigos do deepfake.
Em resposta à natureza em evolução do abuso sexual infantil (CSA), a Comissão Europeia declarou sua intenção de potencialmente proibir o uso de imagens baseadas em inteligência artificial, deepfakes e chatbots de IA com tema de abuso infantil. A proposta visa modificar leis, incluindo o estabelecimento de uma nova infração penal que envolva transmissão ao vivo do CSA. Além disso, busca proibir a posse e a divulgação de guias que promovam a pedofilia. A iniciativa é um movimento para modernizar a regulamentação criada em 2011, sugerindo a obrigatoriedade da notificação de crimes. O objetivo mais amplo é coibir o CSA, melhorar a conscientização sobre segurança online, facilitar a denúncia de crimes e adotar auxílios como indenização financeira para as vítimas.
Antes da proposta, a Comissão realizou uma avaliação de impacto, apontando a importância do aumento da presença em linha e das tendências tecnológicas de ponta como fatores que alimentam a CSA. A proposta também insta os Estados-Membros a promoverem uma maior vigilância. Há uma preocupação crescente com a manipulação da tecnologia para a produção de material de CSA, com temores de que esse conteúdo simulado possa dificultar a identificação de vítimas reais pelos órgãos de aplicação da lei. Dada a rápida proliferação da IA generativa, os legisladores veem uma clara necessidade de revisar as regulamentações existentes.
No entanto, a forma final das alterações propostas está nas mãos dos colegisladores do Parlamento Europeu e do Conselho. Após se chegar a um consenso sobre as alterações à actual directiva de luta contra a CSA, a sua aplicação teria início 20 dias após a sua publicação no Jornal Oficial da UE.
De acordo com o protocolo legislativo normal, a proposta da Comissão Europeia está sujeita à aprovação ou alteração do Parlamento Europeu (PE) e do Conselho de Ministros. Se houver divergências, ambos os órgãos podem sugerir emendas, que seriam seguidas de negociações e votação final.
Em maio de 2022, a Comissão recomendou legislação adicional sobre os deveres dos provedores de serviços digitais de utilizar tecnologia automatizada para detecção e relatório de CSA e atividade de aliciamento. A proposta atual é vista como um complemento à proposta de regulamento de 2022.
No entanto, há um aumento notável no reconhecimento das ameaças potenciais que deepfakes e imagens geradas por IA representam, especialmente porque a proposta foi apresentada há menos de dois anos com foco na varredura de mensagens privadas.
Published At
2/7/2024 11:44:44 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.