IA sur Wikipédia : détecter et encadrer les textes
Comment Wikipédia repère les textes générés par l’IA, vérifie leurs sources et encadre leur usage ? Comprenez les risques, les outils et les choix à venir.
Wikipédia face aux textes générés par l'IA : détecter ne suffit plus
Un texte produit par une IA peut être fluide, bien mis en forme et pourtant faux. Pour une encyclopédie, le problème ne se limite donc pas à repérer une tournure de phrase « suspecte ». Il faut aussi vérifier les sources, replacer le texte dans son contexte, et décider ce que l'IA peut apporter - ou non - dans un travail collectif fait par des contributeurs humains.
C'est l'objectif du WikiProject AI Cleanup : un groupe de bénévoles lancé sur Wikipédia en 2023 pour repérer et retirer des contenus générés par l'IA lorsqu'ils ne respectent pas les règles de l'encyclopédie. Les signaux ont changé : les clichés qui trahissaient facilement les premiers textes de ChatGPT sont moins utiles, tandis que les erreurs de citation et certains marqueurs de structure demandent davantage d'attention.
Derrière cet effort se pose une question plus large : comment utiliser l'IA sans confondre un texte convaincant avec une information fiable ? Autrement dit : quelles méthodes de détection, quelles limites d'outils, quelle gouvernance, et quels enjeux pour la durée - pour Wikipédia, mais aussi pour d'autres organisations.
Pourquoi les textes générés par l'IA sont difficiles à repérer
Au début, certains contenus générés par les grands modèles de langage (LLM) laissaient des traces assez visibles. Les bénévoles du projet ont notamment repéré des formulations convenues comme « un témoignage de » ou « un riche patrimoine culturel », des conclusions ajoutées « de manière automatique » et des sections du type « Pourquoi est-ce important ? ». Ces tours de phrase, fréquents dans les réponses de certains modèles en 2023 puis au début de 2024, s'intégraient mal au style encyclopédique.
Sauf que ce genre de signal ne suffit plus. Une liste de mots à surveiller vieillit vite : les modèles changent, les utilisateurs relisent et retouchent, et des tournures similaires peuvent aussi être utilisées par des contributeurs humains. En clair : on ne peut pas faire reposer une détection sérieuse sur un seul indice lexical.
Repérer un faisceau d'indices, pas une phrase isolée
Selon Ellia Lebleu, membre fondatrice du groupe de nettoyage, les indices observés en 2025 seraient devenus plus « structurels ». Les bénévoles regardent notamment les règles de trois, les oppositions formulées en parallèle, et certains rythmes rhétoriques qui reviennent. Pris séparément, ces éléments ne prouvent rien. En revanche, leur répétition - quand elle s'accompagne d'autres signaux - peut justifier une vérification plus poussée.
Le comportement de publication joue aussi. Des articles de plusieurs milliers de mots publiés en quelques minutes constituent un signal de risque. Ce n'est pas une preuve : quelqu'un peut préparer le contenu à l'avance ou travailler à partir de notes. Mais le volume et la vitesse doivent être mis en face de la qualité des références, de l'historique du compte et de la cohérence globale des modifications.
En pratique, un dossier s'évalue avec plusieurs angles :
- Le texte : répétitions, structure trop régulière, formulations passe-partout, ou affirmations vagues.
- Le rythme de contribution : volume publié, fréquence, et capacité à expliquer les choix éditoriaux.
- Les sources : existence des références, pertinence de leur contenu, et adéquation avec ce qui est affirmé.
- Le contexte : historique de l'article, réponses du contributeur, et respect des règles de Wikipédia.
Aucun de ces critères ne doit devenir un verdict automatique. L'idée n'est pas de « trancher » sur une intuition, mais de décider où il faut consacrer du temps pour relire.
Les détecteurs ne remplacent pas le jugement éditorial
Le projet a travaillé avec l'entreprise de détection Pangram pour estimer la part de nouveaux articles et brouillons susceptibles d'avoir été générés par l'IA. D'après les estimations rapportées par Lebleu, l'outil signalait environ 20 % des contenus évalués à la fin de 2025, puis 15 à 16 % au début de 2026. Ces chiffres ne disent pas tout : ce n'est pas une mesure définitive de la prévalence réelle.
Le test a été comparé à des contenus publiés avant ChatGPT, et il n'avait relevé aucun faux positif à cette époque. Résultat : les données sont utiles comme borne basse prudente, mais elles ne prouvent pas que l'outil repère tous les textes générés par l'IA. Une baisse peut s'expliquer par plusieurs facteurs : règles plus strictes, changements de pratiques, ou amélioration des modèles au point de rendre les textes moins « détectables ». Pour l'instant, les informations disponibles ne suffisent pas à conclure.
À retenir : la détection sert à orienter la vigilance. La validation doit continuer à s'appuyer sur des éléments vérifiables et sur les règles éditoriales, pas sur un score présenté comme une preuve.
Pourquoi la vérification des sources est le vrai point de contrôle
Le point décisif n'est pas seulement « Ce texte a-t-il été écrit par une IA ? ». La question, c'est : « Les affirmations sont-elles étayées par des sources fiables ? ». Un contenu rédigé par un humain peut être faux ou mal référencé. À l'inverse, un contenu assisté par une IA peut contenir des éléments exacts. Pour Wikipédia, le lien entre mode de rédaction et qualité existe, mais ce n'est pas la même chose que la fiabilité de l'information.
Les modèles peuvent aussi inventer une référence. D'après Lebleu, ce phénomène serait moins fréquent qu'au début, notamment grâce aux systèmes de génération augmentée par récupération, qui vont chercher des documents pour produire la réponse. Mais même une « source réelle » ne garantit pas que le document soutient la phrase à laquelle on l'associe.
Une référence réelle peut être utilisée de travers
C'est plus subtil qu'une simple citation imaginaire. Le modèle peut reprendre le titre d'un article, d'un rapport ou d'une étude authentique, puis lui attribuer une conclusion que le document ne formule pas. Il peut aussi s'appuyer sur une source qui traite du sujet à un niveau général, sans apporter le détail précis affirmé dans l'article.
Pour vérifier une référence, il faut donc contrôler au moins trois points :
- La source existe-t-elle ? Le document, son auteur ou l'organisme qui l'a publié sont-ils identifiables ?
- La source est-elle pertinente ? Son sujet et son niveau de fiabilité conviennent-ils à l'affirmation ?
- Soutient-elle réellement la phrase ? Le passage cité confirme-t-il le fait, la date ou le lien de causalité présenté ?
Ce travail prend du temps, mais il cible le risque principal. Une phrase peut sembler raisonnable tout en transformant une hypothèse en fait établi. En clair : il faut vérifier la relation entre chaque affirmation importante et sa source, pas seulement la présence d'une bibliographie.
L'automatisation aide à trier, pas à certifier
Un éditeur de Wikipédia a développé un outil d'IA qui examine les sources d'une page et les compare aux affirmations correspondantes. L'intérêt est clair : accélérer le repérage des cas évidents et aider les bénévoles à traiter plus vite des volumes importants. Mais l'outil peut se tromper.
Le bon usage reste donc celui d'un filtre de première ligne. L'outil signale une référence absente, une incohérence probable ou une affirmation insuffisamment appuyée. Ensuite, un humain consulte le document et décide de la suite. L'inverse - laisser un système déclarer une page « fiable » sans revue - ne ferait que déplacer le problème : une affirmation non vérifiée serait remplacée par un jugement automatique non vérifié.
Cette logique vaut aussi hors de Wikipédia. En entreprise, un assistant peut contrôler des factures, des contrats ou des notes de conformité, mais son résultat doit rester traçable et contestable. Plus les conséquences d'une erreur sont importantes, plus la validation humaine doit être explicite. L'automatisation est utile quand elle réduit le coût du contrôle sans supprimer la responsabilité de la publication.
Comment Wikipédia organise sa réponse
La réponse de Wikipédia combine une règle, des outils et un travail d'explication. La version anglophone a interdit aux contributeurs d'utiliser des modèles de langage pour générer des articles. Cette règle est née d'un constat pratique : face à un volume croissant de textes et à la difficulté de tout évaluer à grande échelle, les bénévoles avaient besoin de limites claires.
Une interdiction, à elle seule, ne règle pas tout. Elle n'empêche pas que certaines contributions passent entre les mailles du filet, et elle ne dit pas comment gérer chaque situation ambiguë. Son efficacité dépend aussi de la visibilité de la règle et de la capacité des contributeurs à comprendre ce qui est attendu.
Rendre la règle compréhensible aux nouveaux contributeurs
Selon Lebleu, la majorité des textes générés par l'IA repérés sur Wikipédia sont déposés par des contributeurs débutants. Le groupe a donc travaillé à rendre la règle visible dans les messages d'accueil, les aides à la modification et les conseils destinés aux nouveaux inscrits.
C'est un choix opérationnel. Si l'on compte uniquement sur la détection après publication, l'organisation finit par payer le coût : relectures, corrections, échanges, parfois conflits éditoriaux. Expliquer la règle en amont évite une partie du travail et réduit les malentendus. Cela ne remplace pas la modération, mais agit sur le moment où le problème apparaît : au moment de contribuer.
La Wikimedia Foundation travaille aussi sur Paste Check, un outil qui peut signaler du texte copié depuis certains assistants conversationnels. Là encore, l'outil vise un cas identifiable, pas toutes les formes possibles d'assistance par IA. Un texte réécrit, traduit ou produit à partir d'un modèle différent peut échapper au signalement. Autrement dit : il faut le voir comme une prévention limitée, pas comme une détection universelle.
Une règle doit être évaluée avec des indicateurs prudents
Les premiers signaux évoqués par le projet incluent des refus de certains assistants à rédiger un article Wikipédia et une baisse apparente de la part de contenus détectés. Mais les causes restent incertaines : les utilisateurs peuvent apprendre les règles, les modèles changent, et les outils de détection peuvent perdre en efficacité.
Pour évaluer une politique de ce type, il faut distinguer plusieurs questions :
- Les contributions non conformes sont-elles moins nombreuses ?
- Les nouveaux contributeurs comprennent-ils mieux ce qui est attendu ?
- Les articles publiés sont-ils mieux sourcés et plus faciles à vérifier ?
- Le temps consacré au nettoyage diminue-t-il, sans hausse d'erreurs ?
- Les outils produisent-ils des faux positifs qui découragent des contributeurs de bonne foi ?
Un indicateur isolé - par exemple la proportion de textes signalés par un détecteur - ne répond pas à tout. Dans un système éditorial, la réussite ne se mesure pas uniquement au nombre de suppressions. Elle se mesure aussi à la qualité finale, à la charge des bénévoles, et à la capacité de maintenir une communauté ouverte sans rendre le contrôle impraticable.
Quelle place l'IA peut-elle prendre dans l'avenir de Wikipédia
L'interdiction de génération répond à une situation concrète, mais le débat a aussi pris une dimension identitaire. Wikipédia est perçue par une partie des contributeurs et des lecteurs comme un espace où les contenus sont rédigés par des humains. Cette caractéristique a une valeur en soi, même si un modèle peut produire des textes fiables dans certains cas.
Il faut distinguer deux décisions. La première est opérationnelle : comment réduire aujourd'hui les contenus non vérifiés ? La seconde est éditoriale et collective : Wikipédia veut-elle rester un corpus entièrement rédigé par des humains, ou accepter aussi des contributions assistées par l'IA ? Ce n'est pas automatique : régler le premier problème ne décide pas forcément du second.
La qualité ne suffit pas à définir la valeur d'un corpus
Un article exact et bien sourcé peut sembler préférable à un article incomplet. Mais la valeur d'une encyclopédie ne tient pas uniquement au nombre de sujets couverts. Elle dépend aussi de la manière dont les informations sont sélectionnées, discutées, corrigées et rattachées à des sources. Un texte généré peut donner une impression de complétude sans rendre visible le travail nécessaire pour vérifier chaque détail.
Un corpus rédigé par des humains peut aussi avoir une valeur distincte pour les systèmes d'IA qui s'appuient sur des données d'entraînement. Préserver cette caractéristique ne relève donc pas seulement de la nostalgie ou du rejet « technique ». Cela touche à la provenance des contenus et à la diversité des sources disponibles, dans un environnement où les réponses automatisées prennent de plus en plus de place.
Une option serait de conserver un corpus rédigé par des humains, tout en proposant séparément des fonctions d'assistance par IA. Mais si cette séparation existe, elle doit être compréhensible : qui a produit le texte, quels outils ont été utilisés, et qui assume la vérification ? Sans provenance claire, les catégories « écrit par un humain » et « assisté par une IA » deviennent difficiles à interpréter.
Le risque du « Google Zero » concerne aussi la participation
L'évolution de la recherche par IA crée un autre problème. Si les internautes reçoivent une réponse directement dans une interface conversationnelle - ou dans un résumé généré - ils peuvent voir Wikipédia cité sans cliquer sur l'article. Ils risquent alors de passer à côté du fait que l'encyclopédie est un projet vivant, modifiable par ses lecteurs.
La Wikimedia Foundation travaille à un cadre d'attribution qui pourrait ajouter plus de contexte lorsqu'un article est cité : date de dernière modification, niveau de complétude, et présence de problèmes signalés par les contributeurs. L'idée est de rappeler qu'une référence renvoie à un document évolutif, avec un historique et un processus de correction, plutôt qu'à une source figée.
À terme, des interfaces d'IA pourraient aussi faciliter la contribution. Un lecteur qui repère une erreur dans une réponse pourrait être invité à proposer une correction et à fournir une source. Mais ça ne marcherait que si le parcours mène vers un mécanisme éditorial compréhensible et si les modifications restent soumises aux règles de Wikipédia. Sinon, l'interface risque de capter la valeur de l'encyclopédie sans aider le travail collectif qui la maintient.
Conclusion : protéger la qualité avant de choisir l'outil
L'expérience de Wikipédia montre que le problème des textes générés par l'IA ne se résout pas avec une liste de tournures suspectes. Les modèles évoluent, les indices deviennent moins visibles, et une citation peut être vraie tout en étant mal utilisée. La réponse la plus solide combine plusieurs niveaux : des règles compréhensibles, des contrôles ciblés, des outils d'aide, et une vérification humaine des affirmations importantes.
Pour toute organisation confrontée à l'IA générative, le principe reste le même : ne pas confondre détection et preuve, ni fluidité et fiabilité. Commencez par définir ce qui doit être vérifiable et qui porte la responsabilité de la publication. Ensuite seulement, choisissez les outils adaptés et évaluez leur effet sur la qualité, le temps de contrôle, et la confiance des utilisateurs.