L’intelligence artificielle a fait des progrès fulgurants ces dernières années, transformant de nombreux pans de notre société. Mais cette révolution technologique comporte aussi son lot de risques, notamment en matière de désinformation. C’est ce que vient d’alerter l’Unesco dans un rapport publié mardi, pointant du doigt le rôle de l’IA générative dans la propagation de fausses informations sur l’Holocauste. Une dérive inquiétante aux conséquences potentiellement dévastatrices sur notre rapport à l’histoire et à la vérité.
L’IA au service de la falsification historique
Grâce à leur capacité à générer du contenu à partir de requêtes en langage courant, les modèles d’IA comme ChatGPT ou Gemini sont capables d’inventer de toutes pièces des événements qui n’ont jamais eu lieu pendant la Seconde Guerre mondiale. Des inventions sans fondement historique qui peuvent pourtant se répandre à une vitesse fulgurante sur internet et les réseaux sociaux. L’Unesco cite notamment le concept inventé “d’Holocauste par noyades”, selon lequel les nazis auraient noyé en masse des personnes juives pendant la guerre. Une pure fabrication qui risque pourtant d’être prise pour argent comptant par de nombreux internautes.
Cette tendance de l’IA à simplifier à outrance et déformer l’histoire se double d’un autre danger : celui de la récupération par l’idéologie nazie via le piratage des modèles. Un cocktail particulièrement explosif qui pourrait conduire à une propagation massive de thèses révisionnistes et antisémites.
Une menace pour la culture démocratique
Au-delà de la falsification de faits historiques, c’est tout notre rapport à la vérité et à la mémoire collective qui est mis en péril par ces dérives de l’IA. Karel Fracapane, spécialiste de l’éducation sur l’Holocauste à l’Unesco, met en garde :
C’est un bon exemple de la façon dont l’IA, quand elle s’applique à des sujets particulièrement difficiles et controversés, peut mener à une forte érosion de la culture démocratique.
Karel Fracapane
Face à ce constat alarmant, l’Unesco appelle les entreprises du secteur à plus de responsabilité et de transparence. Il est urgent qu’elles mettent en place des garde-fous éthiques pour encadrer le développement de l’IA générative et prévenir ses dérives.
Éduquer et sensibiliser face à la désinformation
Mais la responsabilité ne peut pas incomber aux seules entreprises. C’est l’ensemble de la société qui doit se mobiliser pour préserver l’intégrité de notre mémoire collective. Cela passe notamment par un travail de fond sur l’éducation aux médias et à l’esprit critique, dès le plus jeune âge. Apprendre à décrypter l’information, à vérifier les sources, à exercer son jugement : autant de compétences clés pour naviguer dans un monde de plus en plus saturé de contenus.
Un enjeu civilisationnel
Au final, l’enjeu dépasse largement la seule question de l’intelligence artificielle. C’est un défi existentiel pour nos démocraties que de préserver la vérité historique face aux assauts répétés de la désinformation et de la manipulation. Alors que les derniers témoins directs de l’horreur des camps disparaissent, il nous appartient collectivement de faire vivre leur mémoire et de transmettre leur message universel de vigilance.
Si nous permettons à ces faits terribles de l’Holocauste d’être édulcorés, déformés ou falsifiés à travers un usage irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et la diminution de notre compréhension des causes et des conséquences de ces atrocités.
Audrey Azoulay, directrice générale de l’Unesco
Face à ce péril, une prise de conscience collective s’impose. Il y va de notre capacité à tirer les leçons de l’histoire pour construire un avenir commun. Un avenir où la technologie serait au service de l’émancipation humaine et non de la régression intellectuelle et morale. Le combat ne fait que commencer.
Un enjeu civilisationnel
Au final, l’enjeu dépasse largement la seule question de l’intelligence artificielle. C’est un défi existentiel pour nos démocraties que de préserver la vérité historique face aux assauts répétés de la désinformation et de la manipulation. Alors que les derniers témoins directs de l’horreur des camps disparaissent, il nous appartient collectivement de faire vivre leur mémoire et de transmettre leur message universel de vigilance.
Si nous permettons à ces faits terribles de l’Holocauste d’être édulcorés, déformés ou falsifiés à travers un usage irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et la diminution de notre compréhension des causes et des conséquences de ces atrocités.
Audrey Azoulay, directrice générale de l’Unesco
Face à ce péril, une prise de conscience collective s’impose. Il y va de notre capacité à tirer les leçons de l’histoire pour construire un avenir commun. Un avenir où la technologie serait au service de l’émancipation humaine et non de la régression intellectuelle et morale. Le combat ne fait que commencer.
Il est aussi crucial de continuer à transmettre l’histoire de l’Holocauste dans toute sa complexité, sans tabou ni simplification abusive. C’est seulement ainsi, en entretenant la flamme du souvenir, que nous pourrons combattre efficacement l’ignorance, la haine et le négationnisme. L’Unesco souligne d’ailleurs le potentiel de l’IA pour créer des outils pédagogiques innovants et interactifs sur le sujet.
Un enjeu civilisationnel
Au final, l’enjeu dépasse largement la seule question de l’intelligence artificielle. C’est un défi existentiel pour nos démocraties que de préserver la vérité historique face aux assauts répétés de la désinformation et de la manipulation. Alors que les derniers témoins directs de l’horreur des camps disparaissent, il nous appartient collectivement de faire vivre leur mémoire et de transmettre leur message universel de vigilance.
Si nous permettons à ces faits terribles de l’Holocauste d’être édulcorés, déformés ou falsifiés à travers un usage irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et la diminution de notre compréhension des causes et des conséquences de ces atrocités.
Audrey Azoulay, directrice générale de l’Unesco
Face à ce péril, une prise de conscience collective s’impose. Il y va de notre capacité à tirer les leçons de l’histoire pour construire un avenir commun. Un avenir où la technologie serait au service de l’émancipation humaine et non de la régression intellectuelle et morale. Le combat ne fait que commencer.
Il est aussi crucial de continuer à transmettre l’histoire de l’Holocauste dans toute sa complexité, sans tabou ni simplification abusive. C’est seulement ainsi, en entretenant la flamme du souvenir, que nous pourrons combattre efficacement l’ignorance, la haine et le négationnisme. L’Unesco souligne d’ailleurs le potentiel de l’IA pour créer des outils pédagogiques innovants et interactifs sur le sujet.
Un enjeu civilisationnel
Au final, l’enjeu dépasse largement la seule question de l’intelligence artificielle. C’est un défi existentiel pour nos démocraties que de préserver la vérité historique face aux assauts répétés de la désinformation et de la manipulation. Alors que les derniers témoins directs de l’horreur des camps disparaissent, il nous appartient collectivement de faire vivre leur mémoire et de transmettre leur message universel de vigilance.
Si nous permettons à ces faits terribles de l’Holocauste d’être édulcorés, déformés ou falsifiés à travers un usage irresponsable de l’IA, nous risquons une propagation fulgurante de l’antisémitisme et la diminution de notre compréhension des causes et des conséquences de ces atrocités.
Audrey Azoulay, directrice générale de l’Unesco
Face à ce péril, une prise de conscience collective s’impose. Il y va de notre capacité à tirer les leçons de l’histoire pour construire un avenir commun. Un avenir où la technologie serait au service de l’émancipation humaine et non de la régression intellectuelle et morale. Le combat ne fait que commencer.
