Une menace grandissante plane sur les enfants du monde numérique. L’avènement de l’intelligence artificielle générative a ouvert une boîte de Pandore aux conséquences dévastatrices : la multiplication exponentielle des contenus pédopornographiques en ligne. Un véritable fléau qui banalise les violences sexuelles envers les mineurs et accroît dangereusement les risques de passage à l’acte, alerte la Fondation pour l’Enfance dans un récent rapport.
L’IA au service de l’horreur : des images d’abus à l’infini
Vidéos d’enfants virtuels violés, photos d’ados dénudées au visage réel… Les nouvelles technologies d’IA générative permettent de créer à volonté des contenus pédocriminels toujours plus réalistes et choquants. Stockés sur ordinateur ou partagés sur le dark web, ces montages pullulent de manière incontrôlable.
D’après l’Internet Watch Foundation, en un mois seulement, plus de 20 000 images générées par IA ont été publiées sur un forum clandestin. Une progression qualifiée de “glaçante” par l’association.
La banalisation des violences, terreau du passage à l’acte
Si ces images sont des montages, leur prolifération n’en est pas moins extrêmement préoccupante, souligne Angèle Lefranc de la Fondation pour l’Enfance :
Cela contribue à la banalisation des pratiques pédocriminelles et à l’objectification de l’enfant.
– Angèle Lefranc, Fondation pour l’Enfance
Un phénomène qui favorise des comportements de consommation compulsifs, avec une demande d’images de plus en plus extrêmes et violentes. Et qui augmente dangereusement les risques de passer à l’acte sur des enfants bien réels.
40% des affaires : le visionnage précède le passage à l’acte
Selon les estimations de l’Office des mineurs, dans 40% des affaires de pédocriminalité, la consultation de contenus pédopornographiques a entraîné des abus sur un enfant. Un lien mécanique souligné par les experts :
Quand il y a eu un passage à l’acte, très souvent, il y a eu avant un visionnage
– Angèle Lefranc
L’urgence d’une réponse forte et coordonnée
Face à ce fléau en constante évolution, porté par des pédocriminels férus de technologies, la Fondation pour l’Enfance en appelle à une réaction rapide et vigoureuse des acteurs politiques, juridiques et technologiques.
Parmi les recommandations :
- Sensibiliser le grand public aux risques liés au partage de photos d’enfants en ligne, qui peuvent servir à entraîner des IA malveillantes
- Amender le Code pénal pour pénaliser la création de montages pédopornographiques, actuellement dans un vide juridique
- Développer des outils pour distinguer les contenus IA des contenus réels afin de mieux identifier les victimes
Explosion des signalements : +12000% en 10 ans
Un défi de taille alors que les signalements de contenus pédocriminels ont bondi de manière vertigineuse ces dernières années :
800 signalements par jour sont transmis à la police judiciaire, soit une augmentation de 12000% en dix ans.
Une tendance inquiétante, dynamisée par les possibilités exponentielles offertes par l’IA générative. Pour endiguer cette vague et protéger efficacement les enfants, une prise de conscience et une mobilisation collective s’imposent de toute urgence. Car comme le martèle la Fondation, la lutte contre l’exploitation sexuelle des mineurs doit plus que jamais être l’affaire de tous.