L’intelligence artificielle (IA) est en train de bouleverser notre façon de consommer l’information en ligne. Selon une étude récente menée par des chercheurs de Google et plusieurs organisations de fact-checking, les fausses images générées par l’IA sont désormais presque aussi répandues que celles manipulées par du texte ou des outils d’édition traditionnels comme Photoshop. Cette prolifération à grande vitesse des images trompeuses créées par l’IA soulève de sérieuses inquiétudes quant à la désinformation sur le web.
Une adoption fulgurante par les créateurs de fausses informations
Les résultats de l’étude donnent un aperçu de la rapidité avec laquelle la technologie de l’IA a été adoptée par les personnes cherchant à diffuser de fausses informations en ligne. Les chercheurs ont analysé près de 136 000 vérifications de faits remontant jusqu’à 1995, dont la majorité ont été publiées après 2016. Ils ont constaté que l’IA ne représentait qu’une très faible part de la désinformation visuelle jusqu’au printemps 2023, moment où de fausses photos du pape François portant un manteau à capuche sont devenues virales.
La soudaine prééminence du contenu généré par l’IA dans les affirmations de désinformation vérifiées suggère un paysage en évolution rapide.
– Les chercheurs de l’étude
Alexios Mantzarlis, directeur de l’initiative Security, Trust, and Safety à Cornell Tech, souligne que la démocratisation des outils d’IA générative a permis à presque n’importe qui de diffuser facilement de fausses informations en ligne. Selon lui, nous traversons actuellement une vague d’avancées technologiques qui nous choquent par leur capacité à manipuler et altérer la réalité. La question est de savoir à quelle vitesse nous pourrons nous adapter et quelles mesures de protection nous pourrons mettre en place pour éviter leurs méfaits.
Les vraies images sorties de leur contexte restent majoritaires
Si l’IA a connu un essor fulgurant, l’étude révèle cependant que les images réelles associées à de fausses affirmations sur ce qu’elles représentent ou impliquent continuent de se propager sans avoir besoin d’IA ou même de retouche. La manipulation du contexte demeure la principale forme de désinformation visuelle à ce jour.
Cayce Myers, professeur de relations publiques à Virginia Tech, estime que les manipulations de contexte peuvent être encore plus difficiles à détecter que les images générées par l’IA, car elles ont déjà l’air authentiques. Voir une image réelle mal légendée serait bien plus insidieux qu’une image IA aux défauts visibles selon lui.
Une détection de plus en plus ardue avec les progrès de l’IA
Néanmoins, la désinformation basée sur l’IA devient elle aussi rapidement plus difficile à déceler à mesure que la technologie progresse. Les signes distinctifs classiques d’une image générée par l’IA, comme des mains difformes, du texte confus ou un chien à cinq pattes, ont considérablement diminué depuis la généralisation de ces outils.
Pour distinguer de manière fiable la désinformation alors que les outils d’IA gagnent en sophistication, Mantzarlis pense que les gens devront apprendre à remettre en question la source ou le diffuseur du contenu plutôt que les éléments visuels eux-mêmes. Le contenu seul ne suffira plus pour évaluer la véracité ou la fiabilité d’une information, il faudra prendre en compte le contexte complet : qui l’a partagé, comment, et comment savoir que c’était bien cette personne.
Saisir l’ampleur réelle du phénomène, un défi de taille
L’étude souligne cependant que le fait de se fier uniquement aux affirmations vérifiées ne permet pas de capturer toute l’étendue de la désinformation qui circule. Ce sont souvent les images devenues virales qui finissent par être vérifiées, laissant de côté de nombreux contenus trompeurs moins visibles ou non anglophones.
Pour Myers, la plus grande limite de toute étude sur la désinformation, surtout à l’ère de l’IA, sera la nature rapidement changeante de la désinformation elle-même. Capturer cette réalité en constante évolution est difficile, car ce qui est étudié un mois peut déjà être très différent le mois suivant.
Face à cette nouvelle donne technologique, il est crucial de s’interroger systématiquement sur les sources, de développer notre esprit critique et de mettre en place des garde-fous adaptés. C’est un défi de taille qui nous attend pour endiguer la vague de désinformation alimentée par l’IA et préserver la fiabilité de notre environnement informationnel en ligne.
