La Commission européenne propose de criminaliser les images d’ASC générées par l’IA et les deepfakes
Summary:
La Commission européenne a l’intention de criminaliser les images générées par l’IA et les deepfakes liés aux abus sexuels sur enfants (CSA). Cette proposition comprend une nouvelle infraction pénale pour la diffusion en direct de CSA, une mise à jour des lois concernant les rapports CSA et la criminalisation des chatbots d’IA sur le thème de la pédophilie. Ces mesures visent à freiner l’ASE, à améliorer la sensibilisation à la sécurité en ligne, à rationaliser le signalement des crimes et à fournir une aide financière aux victimes. Les États membres sont invités à redoubler de vigilance, tandis que le Parlement européen et le Conseil se prononceront sur la forme finale de la proposition. La proposition s’appuie sur le règlement de 2022 et sur la prise de conscience croissante des dangers des deepfakes.
En réponse à l’évolution de la nature de l’abus sexuel d’enfants (ASE), la Commission européenne a déclaré son intention d’interdire potentiellement l’utilisation d’images basées sur l’intelligence artificielle, de deepfakes et de chatbots d’IA sur le thème de la maltraitance des enfants. La proposition vise à modifier les lois, y compris la création d’une nouvelle infraction pénale qui implique la diffusion en direct de CSA. Il vise en outre à interdire la possession et la diffusion de guides faisant la promotion de la pédophilie. Cette initiative vise à moderniser la réglementation établie en 2011, en suggérant le signalement obligatoire des crimes. L’objectif plus large est de freiner l’ASC, d’améliorer la sensibilisation à la sécurité en ligne, de faciliter le signalement des crimes et d’adopter des aides telles que l’indemnisation financière des victimes.
Avant la proposition, la Commission a procédé à une analyse d’impact, soulignant l’importance d’une présence accrue en ligne et des tendances technologiques de pointe en tant que facteurs alimentant l’AIC. La proposition exhorte également les États membres à faire preuve d’une vigilance accrue. On s’inquiète de plus en plus de la manipulation de la technologie pour produire du matériel de l’ASC, et l’on craint que ce contenu simulé n’entrave l’identification des victimes réelles par les organismes d’application de la loi. Compte tenu de la prolifération rapide de l’IA générative, les législateurs estiment qu’il est clairement nécessaire de réviser les réglementations existantes.
Toutefois, la forme finale des amendements proposés reste entre les mains des colégislateurs du Parlement européen et du Conseil. Une fois parvenus à un consensus sur les modifications de la directive actuelle relative à la lutte contre les CSA, leur application commencerait 20 jours après sa publication au Journal officiel de l’UE.
Selon le protocole législatif type, la proposition de la Commission européenne est soumise à l’approbation ou à la modification du Parlement européen (PE) et du Conseil des ministres. En cas de litige, les deux organes peuvent proposer des amendements, qui seront suivis de négociations et d’un vote final.
En mai 2022, la Commission a recommandé l’ajout d’une loi concernant les obligations des fournisseurs de services numériques d’utiliser des technologies automatisées pour la détection et la déclaration des activités d’ASC et de toilettage. La proposition actuelle est considérée comme un complément à la proposition de règlement de 2022.
Pourtant, il y a une augmentation notable de la reconnaissance des menaces potentielles que posent les deepfakes et les images générées par l’IA, d’autant plus que la proposition a été présentée il y a moins de deux ans en se concentrant sur l’analyse des messages privés.
Published At
2/7/2024 11:44:44 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.