IA ⚡ Recherche : savoir sans comprendre, l’éthique?
Découvrez l’impact de l’IA sur la recherche scientifique, l’éthique de l’intelligence artificielle et la compréhension des modèles : faites les bons choix dès maintenant.
Quand l'IA découvre plus vite que nous : le prix humain du progrès
L'intelligence artificielle ne bouleverse pas seulement des tâches ou des emplois. Elle bouscule aussi une idée plus profonde : ce qui fait du travail autre chose qu'une suite d'opérations, et ce qui relie la connaissance à notre place dans le monde. En mathématiques, la tension est devenue très visible. Des systèmes d'IA ont contribué à résoudre des problèmes que des chercheurs essayaient de comprendre depuis longtemps.
Et pourtant, la réaction n'a pas été univoque. Entre l'enthousiasme et l'étonnement, il y a eu aussi du chagrin, parfois même une forme de désorientation. Il ne s'agit pas seulement de « perdre un statut ». Il y a aussi la peur de voir s'effacer une pratique collective : apprendre en héritant de questions, transmettre, discuter, se tromper, corriger, recommencer. Cette même gêne se retrouve en entreprise : une IA peut produire un résultat utile sans que ceux qui l'utilisent sachent réellement comment il a été obtenu.
Alors, que gagne-t-on quand la machine trouve, mais que l'humain ne comprend pas ? Et comment profiter de cette capacité sans jeter par-dessus bord le jugement, la confiance et la relation qui rendent le travail collectif possible ?
Le progrès scientifique est une œuvre collective
On présente souvent l'intelligence comme ce qui distinguerait l'être humain. L'idée tient partiellement, mais elle est trop courte. D'autres espèces apprennent, communiquent, résolvent des problèmes. Ce qui marque surtout notre trajectoire, c'est la façon dont nous cumulons : nous transmettons, puis nous ajustons, nous complétons, nous déplaçons le problème là où il devient utile.
On imite, on discute, on conteste, on corrige. Et, progressivement, on ajoute une couche à ce qui existait déjà.
Cette manière de cumuler pèse lourd dans l'histoire des sciences et des techniques. Une découverte devient un point de départ. Les mathématiques, par exemple, ne sont pas seulement une suite de résultats exacts : c'est aussi une conversation qui traverse les générations. Un chercheur pose une question. Un autre reprend. On attaque une démonstration, on en propose une autre, ou on trouve une façon différente de dire la même idée.
La recherche ne se résume pas à trouver la bonne réponse
Une preuve peut être correcte sans être immédiatement « lisible » pour tous. En mathématiques, la démonstration sert à vérifier : oui, le résultat tient. La compréhension, elle, dit quelque chose de plus : pourquoi il tient, comment il s'articule avec d'autres idées, comment on peut le réutiliser. Ce n'est pas une alternative. C'est deux exigences qui ne se confondent pas.
Dans un texte souvent cité sur le sujet, le mathématicien Steven Strogatz évoque une lettre d'Archimède à Ératosthène. Archimède y exprime l'espoir que d'autres reprendront les découvertes lancées par leurs prédécesseurs. On ne travaille pas uniquement pour « résoudre l'énigme du moment ». On travaille aussi pour laisser une porte ouverte à ceux qui viendront après.
Et cette logique collective ne s'arrête pas aux mathématiques. Un logiciel, ce n'est pas seulement une collection de fonctions qui passent des tests : c'est un système que d'autres équipes devront maintenir. Une décision médicale ne se résume pas à une prédiction statistique : elle s'inscrit dans une relation de soin et dans une responsabilité qui se partage. Dans tous les cas, le résultat compte. Mais les conditions qui permettent de le comprendre et de le transmettre comptent autant.
Pourquoi les découverties de l'IA peuvent provoquer du chagrin
Quand un système produit en quelques instants ce qui demandait des années, on peut comprendre la tentation d'y voir une simple défense de territoire. Il y a, au passage, des inquiétudes très concrètes : la valeur des compétences, le financement des équipes, la place des chercheurs dans leur discipline. Ces sujets ne disparaissent pas parce qu'un algorithme « fait » mieux ou plus vite.
Mais ce n'est pas tout. Une part du malaise vient aussi d'une crainte plus générale : que la recherche devienne une course à celui qui trouve le résultat le plus vite, au détriment de ce qui rend une discipline vivante - les échanges, les questions, les essais, les erreurs et les retours. Si la machine devient l'interlocuteur principal, qu'est-ce qui reste de la discussion entre personnes qui façonne réellement une discipline ?
Il ne s'agit pas de dire que les machines détruiront automatiquement la science « humaine ». Il s'agit plutôt de regarder ce qu'on mesure quand on célèbre une avancée. La vitesse et le volume de réponses se comptent facilement. La transmission, la capacité à poser de meilleures questions, ou le plaisir d'une compréhension partagée, eux, se laissent beaucoup moins mesurer.
Quand la machine produit du savoir sans compréhension
L'IA peut repérer des régularités, proposer des hypothèses, voire construire des démonstrations jugées valides par des spécialistes. Le problème, c'est que le raisonnement qui mène au résultat peut rester opaque. Et on a tendance à tout ranger sous le même mot - « intelligence ».
Or il faut distinguer plusieurs choses : obtenir une réponse, vérifier qu'elle est fiable, expliquer comment elle fonctionne, et comprendre ce qu'elle permet réellement d'affirmer.
Ces capacités ne progressent pas forcément au même rythme. Un système peut être excellent sur une tâche, tout en restant difficile à interpréter sur les facteurs qui déterminent sa sortie. Pour l'utilisateur, cette opacité n'est pas un détail technique : elle change ce qu'il est raisonnable de croire.
Une réponse correcte n'est pas encore une explication
Les outils de traduction automatique montrent bien la différence. Ils rendent service : ils permettent de comprendre vite un texte, ou de faciliter un échange entre personnes qui ne partagent pas la même langue. Mais que l'outil soit efficace ne signifie pas qu'il donne, pour autant, une explication simple du langage, de ses ambiguïtés et de ses références culturelles.
On retrouve ce même tiraillement dans des contextes scientifiques et médicaux. Dans l'exemple rapporté par Strogatz, une chercheuse travaillant sur l'analyse d'images médicales disait ne pas comprendre précisément ce que le modèle « repère » dans les mammographies. Cela ne disqualifie pas l'outil à lui seul - surtout si ses performances ont été évaluées sérieusement. Mais cela impose des questions très précises : sur quels jeux de données a-t-il été testé ? À quelles populations s'applique-t-il ? Dans quels cas se trompe-t-il ? Qui examine les erreurs, et qui assume leurs conséquences ?
L'enjeu n'est pas d'exiger que chaque calcul d'un modèle soit traduit en une explication parfaitement intuitive. Ce serait souvent irréaliste. En revanche, il faut savoir ce qui a été évalué, ce que le système ne sait pas faire, et dans quels cas l'intervention humaine reste indispensable.
Comprendre, c'est pouvoir réutiliser et contester
La compréhension a une utilité pratique. Elle aide à repérer quand un résultat repose sur une hypothèse fragile, quand un échantillon ne représente pas la réalité, ou quand une recommandation ne tient plus dès qu'on change de contexte. Elle permet aussi d'aller plus loin : réutiliser une découverte, la prolonger, construire de nouveaux savoirs.
L'histoire des sciences illustre bien ce mécanisme. Comprendre les relations entre électricité et magnétisme a permis de penser ces phénomènes autrement que comme des forces entre objets. Puis une représentation plus générale - le champ - a ouvert d'autres avancées en physique. Ce qui compte ici n'est pas de comparer directement ces découvertes aux sorties des modèles actuels. C'est de rappeler qu'une explication solide peut ouvrir des pistes que le résultat isolé ne rend pas visibles.
On peut donc distinguer trois niveaux :
- Le résultat : le système fournit une réponse ou une prédiction.
- La validation : des personnes (ou des procédures) vérifient que la sortie reste robuste dans un périmètre donné.
- La compréhension : des humains peuvent expliquer les limites, l'inscrire dans un raisonnement, puis s'en servir pour avancer.
Une organisation n'a pas besoin d'atteindre le même niveau de compréhension pour chaque usage. Mais elle doit savoir ce qu'elle possède réellement. Confondre une réponse plausible avec un savoir maîtrisé, ce n'est pas seulement un problème de communication : c'est une erreur de gouvernance.
Ce que cette rupture change pour les entreprises
Pour une entreprise, l'IA n'est presque jamais « un sujet abstrait ». Elle intervient dans un processus précis : trier des demandes, rédiger un premier jet, aider un service client, analyser des documents, ou permettre à un salarié de retrouver l'information dans une base de connaissances. La vraie question devient donc moins « l'IA est-elle bonne ou mauvaise ? » que « qu'est-ce qu'on lui confie, et qu'est-ce qu'on doit garder vérifiable par une personne ? »
Il y a des gains possibles. Un outil peut réduire le temps passé sur des tâches répétitives, ou permettre à une petite équipe d'explorer davantage de pistes. Mais un résultat produit plus vite ne crée de valeur que s'il s'intègre dans un usage où les erreurs n'explosent pas - et où le risque juridique est géré.
Dans la pratique, le coût d'une réponse fausse varie énormément. Une erreur dans une ébauche interne n'a pas les mêmes conséquences qu'une erreur dans un diagnostic, une décision de crédit, ou une information envoyée à un client.
Évaluer la valeur au-delà de la vitesse
Avant de déployer un outil, ça aide de séparer ce qu'on attend en quatre catégories :
- Gain de temps : combien de minutes ou d'heures sont vraiment économisées, corrections comprises ?
- Qualité : le résultat est-il plus précis, plus clair ou plus cohérent que le processus actuel ?
- Capacité nouvelle : l'équipe peut-elle traiter des cas qu'elle ne gérait pas avant ?
- Coût de contrôle : combien de temps faut-il pour vérifier, corriger et documenter les sorties ?
Le point 4 est souvent oublié. Automatiser peut accélérer la production tout en déplaçant le travail vers la relecture et la gestion des erreurs. Tant que cette vérification n'apparaît pas dans le calcul, le projet paraît meilleur sur le papier qu'il ne l'est une fois en production.
Choisir le bon niveau d'autonomie
Tous les cas d'usage ne justifient pas le même niveau d'automatisation. Pour trier, une entreprise peut regarder deux choses : le coût d'une erreur, et la facilité de la détecter avant qu'elle ne produise un effet.
- Si l'erreur est peu coûteuse et facile à repérer, on peut automatiser plus largement, avec des contrôles par échantillonnage.
- Si l'erreur est coûteuse mais détectable, il faut prévoir une validation humaine systématique.
- Si l'erreur est grave et difficile à détecter, le système ne devrait pas décider seul : son rôle doit rester l'assistance, avec des tests renforcés et une procédure de recours.
Cette grille évite deux réflexes paresseux : interdire toute IA « par principe », ou automatiser dès qu'une démonstration impressionne. Le bon niveau dépend du processus, des personnes concernées, des données utilisées, et de la capacité de l'organisation à surveiller le système après son lancement.
Les entreprises françaises et européennes doivent aussi tenir compte des règles en matière de protection des données et de la réglementation sur l'IA. La CNIL publie des ressources sur l'intelligence artificielle et les données personnelles ; la Commission européenne présente le cadre réglementaire européen de l'IA. Ces textes ne remplacent pas un avis juridique adapté au projet, mais ils rappellent un point simple : un outil performant ne dispense pas de clarifier les responsabilités, les finalités et les protections nécessaires.
Garder une place à l'humain dans la boucle
Dire que l'humain doit rester « dans la boucle » ne veut pas dire grand-chose si, dans les faits, on fait juste de la validation au clic. Dans beaucoup d'organisations, une personne approuve après avoir reçu une recommandation qu'elle n'a pas vraiment les moyens de contrôler.
Une supervision réelle, elle, exige un rôle clair, un accès aux informations utiles, et la possibilité concrète de contester.
La relation humaine n'est pas un confort ajouté après coup. Elle remplit des fonctions que la performance brute ne couvre pas : comprendre le contexte d'une demande, expliquer une décision, écouter une objection, et assumer les conséquences quand quelque chose tourne mal. Et dans une équipe, elle sert aussi à transmettre des compétences - pas à transformer les salariés en simples opérateurs qui acceptent ou rejettent mécaniquement des propositions générées.
Concevoir un dispositif de contrôle praticable
Pour que le contrôle tienne dans la durée, il faut des éléments concrets :
- Un usage délimité : préciser les tâches autorisées, celles qui sont exclues, et qui peut utiliser l'outil.
- Des critères de qualité : tester le système sur des cas représentatifs, y compris les cas limites et ceux où il devrait s'abstenir.
- Une vérification proportionnée : contrôler chaque sortie quand le risque est élevé, ou travailler avec des échantillons quand les conséquences sont faibles.
- Une procédure de contestation : permettre à un salarié, un client ou un usager de signaler une erreur et de demander une révision humaine.
- Un suivi dans le temps : surveiller les dérives, les changements de données, et l'écart entre les performances attendues et les résultats réels.
L'objectif n'est pas d'empiler des étapes « pour rassurer ». C'est de rendre l'usage tenable quand le contexte change : nouvelles données, nouvelle version du modèle, volumes en hausse, ou évolution des règles métier. Un contrôle qui fonctionne pour dix utilisateurs peut complètement décrocher quand l'outil passe à plusieurs milliers.
Faire de l'explication une compétence collective
Même quand le fonctionnement interne d'un modèle est difficile à expliquer, l'organisation peut expliquer son propre usage : pourquoi l'outil est utilisé, quelles données sont mobilisées, quelles vérifications sont faites, qui décide, et comment contester.
Cette transparence n'a pas besoin de dévoiler chaque détail technique. Elle doit donner des repères suffisants pour juger - et agir.
Il faut aussi protéger du temps pour apprendre. Si l'IA produit un premier résultat, l'équipe doit pouvoir le confronter à son jugement : repérer les écarts, comprendre d'où viennent les erreurs, identifier ce qui se répète. Sans cette boucle, l'organisation peut gagner en débit sur le moment, tout en perdant progressivement sa capacité à travailler sans l'outil.
C'est un risque stratégique. Une dépendance peut sembler efficace jusqu'au jour où le fournisseur change ses conditions, où le système tombe en panne, ou où un cas inédit exige un jugement qu'aucune équipe n'a entretenu. Garder une expertise humaine, ce n'est pas refuser l'automatisation. C'est éviter qu'un gain immédiat fragilise la capacité à décider demain.
Conclusion : automatiser sans abandonner le sens
L'IA peut accélérer la découverte, élargir l'accès à certaines compétences, et aider à résoudre des problèmes importants. Elle peut aussi produire des sorties dont les mécanismes restent obscurs, déplacer le travail vers des tâches de contrôle, et affaiblir des compétences si l'organisation cesse de les exercer.
La décision n'est donc pas « progrès technique contre humanité ». Elle consiste à choisir ce qu'on automatise, ce qu'on doit comprendre, et qui répond des conséquences. Pour chaque cas d'usage, mesurez le bénéfice réel, évaluez le coût d'une erreur et donnez aux personnes concernées un moyen concret de vérifier ou de contester.
Une machine peut contribuer à trouver. La responsabilité de transmettre, d'expliquer et de prendre soin des personnes concernées reste collective. Avant votre prochain déploiement d'IA, cartographiez ces trois fonctions : ce que le système produit, ce que l'équipe sait vérifier, et ce qu'elle doit continuer à apprendre.
Pour approfondir, consultez les ressources de la CNIL sur l'intelligence artificielle et le cadre réglementaire européen de l'IA.