Imaginez un instant : vous posez une question sérieuse à une intelligence artificielle. La réponse arrive en quelques secondes, claire, structurée, presque trop sûre d’elle. Vous la lisez, vous la croyez. Pourtant, derrière cette assurance se cache souvent un vide. Une affirmation sans origine claire, un mélange d’opinions contradictoires présenté comme une vérité unique, ou pire encore, une erreur née d’une autre erreur générée par une machine précédente. Aujourd’hui, la fiabilité des réponses produites par l’IA n’est plus seulement une question technique. C’est une question de confiance collective. Et selon certains spécialistes, la solution ne viendra pas uniquement des algorithmes. Elle pourrait bien reposer sur le retour massif du jugement humain.
Pourquoi Les Réponses De L’IA Manquent De Solidité
Les modèles de langage actuels se nourrissent de quantités gigantesques de textes glanés sur le web. Le problème, c’est que ce web n’a jamais été conçu pour préserver l’origine, l’autorité ou la responsabilité des informations. Il a été pensé pour les diffuser. Résultat : une même affirmation peut circuler de site en site, être reformulée, reprise, puis réintégrée dans les données d’entraînement sans que personne ne puisse retracer son point de départ. C’est ce que l’on appelle la perte de provenance. Une faille majeure.
Yaniv Tal, fondateur de Geo et co-créateur de The Graph, le résume avec une formule percutante : « L’IA n’a pas un problème de vérité, c’est Internet qui en a un. » Selon lui, quatre faiblesses structurelles expliquent pourquoi les réponses des modèles restent si souvent fragiles. La première, justement, c’est cette provenance effacée. Une affirmation circule, se transforme, et finit par arriver dans le modèle sans aucune trace de sa source initiale.
La deuxième faiblesse concerne l’autorité. Un article scientifique, un communiqué d’entreprise, un post anonyme sur un forum : tout cela entre dans le même pipeline de données. Les modèles ont du mal à distinguer ce qui mérite d’être pris au sérieux de ce qui relève de l’opinion ou de la promotion. L’autorité se dilue. Tout se retrouve au même niveau.
Troisième problème : le désaccord. Les experts ne sont pas toujours d’accord. Or les modèles de langage ont tendance à fusionner les positions concurrentes en une seule réponse fluide et confiante. Les véritables divergences disparaissent. L’utilisateur reçoit une synthèse lisse, sans jamais savoir que des voix crédibles défendent pourtant des points de vue opposés.
Enfin, la quatrième faille est peut-être la plus inquiétante : l’auto-alimentation. De plus en plus de contenus générés par des IA se retrouvent dans les données d’entraînement des générations suivantes. Les erreurs se répètent, s’amplifient, et finissent par polluer le système. Une étude publiée dans Nature en 2024 a même documenté ce phénomène sous le nom de « model collapse ». Lorsque des modèles s’entraînent exclusivement sur des données synthétiques, ils perdent progressivement la richesse de la distribution originale. Les informations rares disparaissent en premier. Puis les générations suivantes produisent des distributions de plus en plus éloignées de la réalité de départ.
Ces quatre faiblesses ne sont pas des défauts de conception purement techniques. Elles reflètent les limites d’un Internet qui n’a jamais été pensé pour servir de base de connaissance fiable. Les modèles ne font que reproduire ce qu’on leur donne.
La Provenance Qui S’Efface Progressivement
Quand une information circule sur le web, elle change souvent de forme. Un journaliste reprend une étude, un blogueur reformule l’article, un compte social partage un extrait, un autre site le republie. À chaque étape, le lien avec la source originelle s’affaiblit. Au moment où le texte entre dans un jeu de données d’entraînement, il ne reste parfois plus aucune trace de l’auteur, de la date, ou du contexte initial.
Cette perte de filiation a des conséquences concrètes. Un modèle peut affirmer avec assurance une statistique sans jamais pouvoir pointer vers l’étude qui l’a produite. Il peut aussi reprendre une rumeur reformulée comme un fait établi. Dans les deux cas, l’utilisateur n’a aucun moyen de vérifier. La transparence disparaît.
Dans un monde où les contenus se multiplient à une vitesse exponentielle, retrouver l’origine d’une affirmation devient un travail de détective. Or la plupart des utilisateurs n’ont ni le temps ni les outils pour le faire. Ils s’en remettent à la machine. Et la machine, elle, a déjà perdu le fil.
L’Autorité Aplatie Dans Les Données
Tous les textes ne se valent pas. Une publication dans une revue à comité de lecture n’a pas le même poids qu’un post anonyme. Une décision de justice n’a pas le même statut qu’une opinion sur un forum. Pourtant, une fois transformés en tokens et intégrés dans un modèle, ces contenus perdent souvent leur hiérarchie. L’algorithme les traite comme des séquences de mots parmi d’autres.
Cette égalisation forcée crée des distorsions. Des affirmations marketing peuvent se retrouver présentées avec le même niveau de confiance qu’une observation scientifique. Des théories marginales peuvent gagner une légitimité artificielle simplement parce qu’elles ont été reformulées de manière élégante. Le modèle n’a pas de boussole intrinsèque pour distinguer les niveaux d’autorité.
Yaniv Tal insiste sur ce point : les modèles ne créent pas le problème, ils le reproduisent. L’Internet d’aujourd’hui mélange déjà allègrement les registres. Les systèmes d’IA se contentent de refléter ce mélange sans y ajouter de filtre supplémentaire.
Le Désaccord Qui Disparaît Sous La Synthèse
Dans de nombreux domaines, les spécialistes ne parlent pas d’une seule voix. Médecine, économie, climat, régulation des cryptomonnaies : les débats existent, et ils sont souvent légitimes. Or les modèles de langage excellent à produire des réponses unifiées. Ils aiment les phrases qui semblent trancher.
Cette capacité de synthèse a un coût. Elle peut masquer des divergences réelles entre experts compétents. L’utilisateur reçoit une réponse fluide, presque définitive, sans jamais voir les alternatives crédibles. Le désaccord n’est pas résolu : il est simplement effacé.
Pour Tal, le pluralisme ne doit pas se transformer en bruit. Mais il ne doit pas non plus disparaître. Une réponse honnête, selon lui, consiste parfois à présenter plusieurs perspectives structurées plutôt qu’une seule version lisse. « Plusieurs perspectives bien structurées et concurrentes constituent souvent la réponse la plus honnête », affirme-t-il.
Quand Les Machines S’Entraînent Sur Les Machines
Le phénomène de « model collapse » documenté par l’étude de Nature illustre un risque systémique. Plus les contenus générés par IA saturent le web, plus les prochains modèles risquent de s’entraîner sur du déjà-généré. Les erreurs se propagent. Les distributions s’appauvrissent. Les informations rares ou nuancées s’effacent progressivement.
Ce n’est pas une simple hypothèse théorique. Les chercheurs ont observé que, dès les premières générations, les données peu fréquentes commençaient à disparaître. Plus tard, les modèles produisaient des distributions qui n’avaient presque plus rien à voir avec les données humaines de départ. L’accès à du contenu original produit par des humains devient donc critique.
Dans un tel contexte, le jugement humain n’est plus un luxe. Il redevient une ressource rare et précieuse. Les machines génèrent plus de contenu que les gens ne peuvent en traiter, et presque aucun de ces contenus n’a quelqu’un d’identifiable qui en assume la responsabilité.
La Proposition De Geo : Séparer Affirmations, Sources Et Preuves
Face à ces constats, Geo propose une approche radicalement différente. L’idée n’est pas de remplacer l’IA, mais de reconstruire une couche de connaissance où les affirmations, les sources et les preuves sont clairement distinguées. Chaque élément est relié aux autres par des relations explicites : soutien, contradiction, réponse directe à un point contesté.
Une fois ces liens enregistrés, le système peut classer les arguments selon leur solidité évaluée, tout en conservant les perspectives concurrentes en dessous. L’objectif n’est pas d’éliminer le désaccord, mais de le rendre lisible et structuré. Le pluralisme cesse d’être un flux chaotique de commentaires pour devenir un ensemble de positions argumentées.
Geo organise ces informations à travers des communautés indépendantes appelées Spaces. Les domaines déjà listés incluent la cryptomonnaie, la santé, l’intelligence artificielle, l’éducation, les affaires mondiales et la politique américaine. Les membres peuvent contribuer et discuter. Les personnes disposant de connaissances pertinentes peuvent postuler pour devenir éditeurs.
Le programme de curateurs invite les participants à évaluer les sources, à connecter les arguments et à enrichir un graphe de connaissances ouvert. Le modèle s’inspire de Geo Genesis, lancé en accès anticipé en janvier 2025. La gouvernance par défaut distinguait alors les Éditors, dotés de droits de vote, et les Members, qui pouvaient contribuer aux Spaces individuels.
Le système s’appuie sur le cadre de gouvernance Aragon OSx et sur le standard GRC-20, conçu pour représenter des connaissances connectées. En juin 2025, The Graph indiquait que ce standard permettait aux communautés de publier des informations structurées on-chain et de les récupérer via des subgraphs et des Substreams.
Yaniv Tal, qui a co-fondé The Graph avant de lancer Geo, insiste sur un point important : l’expertise ne serait pas attribuée par une autorité centrale. Les contributeurs construiraient leur réputation à travers leur travail. Cette réputation pourrait les suivre d’un Space à un autre.
« Le jugement humain est aujourd’hui l’input rare, et non le redondant. Les machines génèrent plus de contenu que les gens ne peuvent en traiter, et presque aucun de ces contenus n’a quelqu’un d’identifiable qui en assume la vérité. »
Gouvernance Communautaire Et Problème D’Identité
Mettre des humains au centre d’un réseau de connaissances pose immédiatement une question délicate : comment s’assurer que les contributeurs sont réels, qualifiés et indépendants ? Les systèmes de gouvernance ouverts restent vulnérables aux attaques Sybil, dans lesquelles une seule personne crée de multiples identités pour influencer les votes, les classements ou les récompenses.
Plusieurs approches existent pour tenter de résoudre ce problème : vérifications biométriques, réseaux de confiance sociale, outils d’identité à divulgation nulle de connaissance. Chacune implique des compromis entre vie privée, résistance aux attaques, accessibilité et contrôle. L’IA, ironiquement, facilite aussi la création de personas convaincantes à bas coût, ce qui complique encore davantage la tâche.
Geo mise sur l’historique des contributions et sur des communautés spécialisées par domaine. Les éditeurs postulent au sein de chaque Space. Les membres participent à la gouvernance des sujets qu’ils suivent. L’idée est de faire reposer la crédibilité sur le travail accompli plutôt que sur une simple déclaration anonyme.
« Avoir de la peau dans le jeu sans enjeux financiers change la qualité de ce que les gens sont prêts à signer de leur nom », explique Tal. L’approche ne résout pas magiquement toutes les questions : qui sélectionne les éditeurs, comment les communautés gèrent les manipulations coordonnées, ou si une expertise acquise dans un domaine doit peser dans un autre. Mais le fondateur estime que des Spaces indépendants limitent le risque qu’une seule institution contrôle l’ensemble des champs.
Le Cas Particulier Des Données On-Chain
La cryptomonnaie constitue l’un des premiers Spaces de Geo pour une raison précise. L’activité blockchain offre un terrain d’expérimentation idéal pour distinguer ce qui est vérifiable de ce qui relève de l’interprétation humaine.
Une blockchain peut confirmer qu’une transaction a eu lieu à une adresse et un bloc donnés. Elle ne peut pas, sans preuves supplémentaires, établir qui contrôle cette adresse, pourquoi les fonds ont bougé, si l’activité était organique ou ce qu’un projet compte faire ensuite. « Les données on-chain sont vérifiables par construction. Une transaction a eu lieu ou non », rappelle Tal. « Tout ce qui l’entoure relève de l’affirmation. »
Les annonces de projets, les descriptions de partenariats, les prévisions de marché et les explications des mouvements de tokens doivent donc être traités séparément. Geo entend attacher ces affirmations à des contributeurs nommés et conserver l’historique de leurs déclarations, y compris celles qui se sont révélées inexactes. Dans un marché où la promotion se mêle souvent aux données factuelles, cette distinction devient essentielle.
Un système de connaissance digne de confiance doit étiqueter clairement les catégories plutôt que de présenter le tout dans la même voix. C’est précisément ce que le projet cherche à construire.
Ce Que Recommandent Déjà Les Cadres Officiels
Les préoccupations soulevées par Yaniv Tal ne sont pas isolées. Aux États-Unis, le National Institute of Standards and Technology a publié en juillet 2024 un profil dédié à l’IA générative. Ce cadre volontaire recommande aux organisations de documenter les sources des données d’entraînement, de surveiller l’origine des contenus générés, et d’évaluer les boucles de rétroaction entre les systèmes de provenance et les relecteurs humains.
Il appelle aussi à faire participer des experts de domaine et des communautés concernées à certaines évaluations. Autrement dit, le jugement humain n’est pas considéré comme un accessoire, mais comme un élément structurant de la confiance.
D’autres initiatives vont dans le même sens. Les standards de provenance de contenu, comme ceux de la Coalition for Content Provenance and Authenticity, utilisent des Content Credentials signés cryptographiquement pour conserver des informations sur qui a créé ou modifié un actif et comment il a été édité. Ces outils vérifient que les affirmations sont correctement liées à l’actif sous-jacent et n’ont pas été altérées. Ils ne disent toutefois pas si l’affirmation elle-même est vraie ou fausse. Ils se contentent de garantir l’intégrité du lien.
La distinction est importante. La provenance technique n’équivaut pas à la vérité. Elle crée seulement les conditions pour que le jugement humain puisse s’exercer de manière plus efficace.
Pourquoi Le Jugement Humain Reste Irrémédiable
On pourrait croire que les progrès techniques finiront par résoudre seuls les problèmes de fiabilité. Les modèles s’améliorent, les filtres se multiplient, les bases de données se raffinent. Pourtant, plusieurs limites structurelles persistent. Les machines excellentes pour détecter des patterns restent médiocres pour évaluer des intentions, des contextes culturels ou des conflits d’intérêts subtils.
Dans le domaine de la sécurité crypto, on observe déjà ce phénomène. Des outils automatisés peuvent repérer des activités suspectes. Mais c’est encore l’utilisateur qui autorise finalement les transactions. Des rapports de sécurité récents soulignent l’importance de la vérification manuelle et d’affichages de transactions clairs face aux tentatives d’hameçonnage assistées par IA, aux interfaces falsifiées et aux arnaques automatisées.
Le même raisonnement s’applique à la connaissance. Les modèles peuvent générer des synthèses impressionnantes. Ils ne peuvent pas, seuls, porter la responsabilité de la vérité. Cette responsabilité reste humaine.
Geo part de ce constat. En séparant les affirmations, en rattachant les preuves aux sources, en permettant aux communautés spécialisées de classer les arguments tout en conservant les désaccords, le projet tente de reconstruire une couche de confiance. Pas une vérité unique et imposée, mais un espace où la solidité des raisonnements peut être évaluée collectivement.
Les Limites Réelles D’Une Approche Communautaire
Il serait naïf de croire qu’un réseau de connaissances gouverné par des humains résout tout. Les biais existent. Les conflits d’intérêts aussi. Les communautés peuvent se polariser. Les éditeurs peuvent se tromper. Les mécanismes de réputation peuvent être capturés.
Le problème du gatekeeping n’est pas magiquement éliminé. Qui décide qui devient éditeur ? Comment une communauté détecte-t-elle une coordination malveillante ? Une expertise reconnue dans un Space doit-elle automatiquement conférer de l’autorité dans un autre ? Ces questions restent ouvertes.
Tal reconnaît la difficulté. Il mise sur la multiplicité des Spaces indépendants pour éviter qu’une seule institution ne monopolise l’ensemble des champs de connaissance. L’idée n’est pas de créer un oracle central, mais un ensemble de graphes de connaissances vivants, chacun ancré dans une communauté capable d’exercer un jugement critique.
Cette vision a le mérite de la cohérence. Elle refuse à la fois le relativisme total (où tout se vaut) et l’illusion d’une vérité algorithmique pure. Elle place le jugement humain au centre, non comme un frein, mais comme la ressource la plus rare à préserver.
Ce Que Cela Change Pour Les Utilisateurs Au Quotidien
Pour un utilisateur ordinaire, la différence pourrait être concrète. Au lieu de recevoir une réponse unique et lisse, il pourrait voir plusieurs perspectives structurées, chacune liée à des sources et à des contributeurs identifiables. Il pourrait consulter l’historique des affirmations passées d’un auteur. Il pourrait comprendre pourquoi un argument est classé plus haut qu’un autre, sans que les alternatives disparaissent.
Dans le domaine crypto, cela permettrait de distinguer clairement ce qui est on-chain et donc vérifiable de ce qui relève de la communication de projet. Dans la santé, cela pourrait éviter de présenter comme établi ce qui reste encore débattu. Dans l’IA elle-même, cela offrirait une carte plus honnête des divergences entre spécialistes.
Bien sûr, un tel système demande du temps et de l’engagement. Il suppose que des personnes compétentes acceptent de contribuer, d’éditer, de voter. Il suppose aussi que les utilisateurs soient prêts à accepter une certaine complexité plutôt qu’une réponse toute faite. La facilité a un prix. La confiance aussi.
Vers Une Nouvelle Économie De La Confiance
Si l’approche proposée par Geo gagne du terrain, elle pourrait modifier en profondeur la manière dont nous consommons l’information. Aujourd’hui, la plupart des outils d’IA fonctionnent comme des boîtes noires élégantes. Demain, on pourrait imaginer des interfaces qui exposent explicitement les liens entre affirmations, preuves et contributeurs.
Cela ne signifie pas la fin des modèles de langage. Cela signifie plutôt leur intégration dans un écosystème plus large où le jugement humain reste visible et traçable. Les machines accélèrent la production. Les humains restent les garants de la responsabilité.
Dans un monde saturé de contenus générés, la capacité à distinguer ce qui a été produit et vérifié par des personnes identifiables devient un avantage stratégique. Les organisations, les médias, les plateformes et même les individus qui sauront s’appuyer sur de telles couches de confiance pourraient se démarquer.
Le débat n’est pas purement technique. Il touche à la manière dont les sociétés gèrent la vérité collective à l’ère des machines. Les modèles vont continuer à s’améliorer. La question est de savoir si nous construirons autour d’eux les institutions et les outils nécessaires pour que leurs réponses restent ancrées dans quelque chose de plus solide que la pure statistique.
Un Enjeu Qui Dépasse La Seule Technologie
Les quatre faiblesses identifiées par Yaniv Tal – perte de provenance, aplatissement de l’autorité, disparition du désaccord, amplification des erreurs synthétiques – ne sont pas des bugs isolés. Elles révèlent une tension plus profonde entre la vitesse de diffusion de l’information et la lenteur du jugement critique.
Internet a gagné la bataille de la diffusion. Il a largement perdu celle de la traçabilité et de la responsabilité. Les systèmes d’IA, en s’entraînant sur cet océan, en héritent. La tentation est grande de chercher des solutions purement algorithmiques. Pourtant, tant que la responsabilité de la vérité restera floue, la confiance restera fragile.
Geo propose une voie alternative : reconstruire une infrastructure de connaissance où le jugement humain n’est plus relégué au second plan, mais placé au centre. Une infrastructure où les affirmations ne flottent plus dans le vide, mais restent reliées à des sources, à des preuves et à des personnes prêtes à y mettre leur nom.
Cette vision n’est ni naïve ni magique. Elle suppose de résoudre des problèmes d’identité, de gouvernance et de coordination. Elle suppose aussi que des communautés acceptent de s’engager dans un travail de curation long et parfois ingrat. Mais face à l’alternative – un monde où les erreurs se multiplient et s’amplifient sans que personne n’en assume la charge – elle mérite d’être prise au sérieux.
La prochaine fois que vous lirez une réponse d’IA parfaitement formulée, posez-vous une question simple : d’où vient vraiment cette affirmation ? Qui en est responsable ? Et que se passerait-il si, derrière chaque réponse, se trouvait un réseau de jugements humains capables de la soutenir, de la contester ou de la nuancer ? C’est exactement cette question que le projet Geo tente de transformer en architecture concrète.
Dans un univers informationnel saturé, le jugement humain n’est plus un frein. Il redevient la condition même de la fiabilité. Et peut-être la seule ressource qui, à long terme, empêchera les machines de s’entraîner sur leurs propres illusions.
