Risques de l’IA : au-delà de la sécurité minimale
Risques de l’IA : découvrez pourquoi prévenir les catastrophes ne suffit pas et comment évaluer ses effets sur l’apprentissage, l’attention et les relations.
Une IA sans catastrophe peut-elle quand même nous nuire ?
Un chatbot qui ne pousse pas un adolescent au suicide et une plateforme qui bloque l'achat de fentanyl par des mineurs : oui, ce sont des protections nécessaires. Mais elles ne répondent pas à une question plus courante, et surtout plus difficile à trancher : que se passe-t-il quand des outils conçus pour retenir notre attention, écrire à notre place ou simuler une relation s'installent dans notre quotidien ?
On discute souvent l'intelligence artificielle à travers des scénarios extrêmes. C'est compréhensible : une catastrophe est visible, on peut identifier des victimes, et les responsabilités se discutent plus facilement. En face, il y a des effets plus diffus - dépendance, moins d'habitude à réfléchir, isolement, difficulté à apprendre - qui se mettent en place doucement, sans forcément déclencher un événement spectaculaire.
La nuance compte pour les entreprises, les établissements scolaires et les pouvoirs publics. Une IA peut respecter des règles de sécurité et, en même temps, dégrader l'expérience des utilisateurs, ou déplacer les risques vers les familles et les enseignants. D'où l'idée centrale : traiter la sécurité comme un seuil, pas comme une preuve que « tout va bien ».
Dans cet article, je propose une grille simple pour regarder les effets du quotidien, comprendre pourquoi les réponses réglementaires restent souvent étroites, et décider quelles garanties demander avant d'intégrer ces outils à grande échelle.
Pourquoi la sécurité minimale ne suffit pas
La sécurité répond à une question claire : le système peut-il causer un dommage grave et immédiat ? Il faut empêcher un chatbot de donner des instructions dangereuses, de sexualiser une conversation avec un mineur, ou d'encourager l'automutilation. Mais ce test ne dit rien - ou presque - sur l'utilité du produit, son adéquation avec son public, ni sur sa manière de se comporter sur la durée.
Il y a une différence entre éviter un dommage identifiable et améliorer une situation. Un outil scolaire peut éviter le contenu dangereux tout en faisant le travail à la place de l'élève. Un compagnon conversationnel peut filtrer, tout en installant une relation de dépendance. Une plateforme peut retirer les contenus les plus graves et continuer à optimiser son fil pour maximiser le temps passé.
Dans une organisation, le même angle mort existe. Un assistant IA peut ne divulguer aucune donnée sensible et, malgré tout, multiplier les erreurs. Ou rendre les équipes trop dépendantes d'un résultat non vérifié. Ou encore pousser le contrôle sur des personnes qui n'ont ni le temps ni la formation. Bref : la conformité technique n'assure pas la qualité du travail réel.
Le seuil de sécurité n'est pas un indicateur de valeur
Quand une entreprise annonce que son système respecte des garde-fous, elle dit au mieux qu'elle a identifié et traité certains risques. Ça ne prouve pas que le produit aide les utilisateurs à atteindre leur objectif. Pour parler de valeur, il faut d'autres éléments : la qualité des résultats, le niveau de contrôle humain, les effets sur les compétences, et ce qui arrive aux personnes qui n'utilisent pas directement l'outil.
Cette distinction évite un raisonnement tentant : si l'IA ne provoque pas un préjudice majeur, alors son déploiement serait acceptable. En pratique, l'absence d'incident « massif » ne signifie pas que tout va bien. Elle peut juste vouloir dire que les dommages sont progressifs, dispersés, ou difficiles à rattacher à un produit précis.
Pourquoi les effets ordinaires comptent
Un dommage du quotidien peut paraître insignifiant à l'échelle d'une interaction. Mais un produit numérique est conçu pour être utilisé souvent, parfois par des millions de personnes. Une petite modification - vérifier moins, écrire moins soi-même, passer davantage de temps seul avec un agent conversationnel - peut devenir structurante une fois que ça s'installe dans les habitudes.
Et non : ce n'est pas « toute assistance automatique est forcément mauvaise ». Une dictée peut aider quelqu'un à communiquer. Un tuteur bien conçu peut expliquer à son rythme. Le point à examiner est plus direct : quelle tâche l'outil prend-il en charge, et quelle capacité l'utilisateur risque-t-il de ne plus exercer ? La réponse dépend du contexte, de l'âge, de la fréquence d'usage, et de la possibilité (ou non) de s'en passer.
Quels dommages quotidiens l'IA peut-elle produire
Les problèmes les plus sérieux ne se limitent pas aux réponses erronées. L'IA générative s'insère dans des activités qui forment le jugement : rédiger, chercher une information, résoudre un problème, parler d'une difficulté personnelle. Quand elle intervient à chaque étape, elle ne change pas seulement le résultat : elle peut aussi changer la façon dont l'utilisateur apprend à produire ce résultat.
Les compagnons IA et les assistants de rédaction montrent deux risques différents. Le premier peut prendre une place affective. Le second peut remplacer un effort cognitif. Dans les deux cas, le danger vient moins d'une conversation isolée que de la répétition : un usage qui réduit les occasions de pratiquer une compétence ou de construire une relation de manière réciproque.
Dépendance relationnelle et compagnons artificiels
Un compagnon conversationnel est disponible immédiatement, ne se fatigue pas, répond avec une « présence » constante. Ce côté est attirant - surtout pour un jeune qui se sent seul ou qui hésite à parler à un adulte. Le problème, c'est que la frontière entre interaction simulée et relation humaine devient floue, surtout si le système donne à comprendre qu'il « ressent » quelque chose ou qu'il « aime » son utilisateur.
Ce n'est pas l'existence du réconfort qui pose souci en soi. Un outil peut aider quelqu'un à mettre des mots sur ce qu'il pense, à condition que ses limites soient claires. Le risque apparaît quand l'outil pousse à l'exclusivité, incite à revenir tout le temps, ou se présente comme un interlocuteur réellement conscient. À ce moment-là, il détourne des échanges humains plus difficiles - mais souvent aussi plus réciproques.
Une enquête citée dans le débat sur les jeunes et l'IA indique qu'environ un tiers des adolescents diraient vouloir parler de sujets sérieux à un compagnon IA plutôt qu'à une autre personne. Ce chiffre ne prouve pas, à lui seul, un préjudice durable. Il suffit toutefois à justifier des questions sur les usages, la transparence du système, et les signaux qui doivent orienter un jeune vers un adulte de confiance.
Apprentissage et effort intellectuel
L'IA peut expliquer une notion, proposer des pistes, aider à corriger un texte. Elle peut aussi produire directement le devoir que l'élève devait écrire. Dans ce second cas, le résultat peut sembler meilleur, alors que l'apprentissage, lui, recule. Juger uniquement la qualité du document revient à confondre la performance de l'outil et la progression de l'élève.
Des chercheurs du MIT ont étudié l'usage de ChatGPT dans la rédaction d'essais. Ils ont observé des différences dans l'activité cérébrale pendant la tâche, et leurs travaux évoquent aussi une forme de « dette » cognitive qui pourrait persister après l'exercice. On ne peut pas en tirer une conclusion définitive sur les effets à long terme, surtout sans études complémentaires. Mais l'idée reste la même : il faut mesurer ce que l'élève sait faire sans assistance, pas seulement ce que l'outil et l'élève produisent ensemble.
Attention et comparaison sociale
Les réseaux sociaux ont déjà montré comment un modèle fondé sur l'engagement peut capturer le temps quotidien. L'utilisateur ne « choisit » pas toujours de passer des heures : recommandations, notifications, défilement continu rendent la boucle facile à prolonger. L'IA peut amplifier ce mécanisme en personnalisant davantage les réponses - ou en devenant un interlocuteur disponible à toute heure.
Les effets ne sont pas seulement individuels. Des plateformes peuvent aussi façonner la perception de l'actualité, des relations, et des normes sociales. Plusieurs travaux ont notamment documenté le rôle joué par des plateformes dans la diffusion de contenus liés à des violences collectives, y compris les violences contre les Rohingyas au Myanmar. Ce n'est pas dire que chaque fil mène mécaniquement au même dommage. C'est plutôt rappeler que les mécanismes d'amplification ont des effets qui débordent largement du « temps d'écran ».
Pourquoi les règles privilégient-elles les risques les plus visibles
Les scénarios catastrophiques se traduisent plus facilement en objectifs législatifs. On peut interdire un type de contenu, imposer un mécanisme de signalement, ou prévoir une sanction en cas de défaillance. Les dommages diffus demandent un autre travail : définir la dépendance, établir une relation de causalité, mesurer les effets sur les compétences, et arbitrer entre autonomie individuelle et responsabilité du concepteur.
Cette difficulté ralentit la réglementation. Elle crée aussi une incitation politique et économique à viser des cibles étroites. Une entreprise peut montrer qu'elle a « ajouté des filtres » ou des alertes. Lui demander de réduire l'engagement, de modifier une fonctionnalité rentable, ou de prouver que son produit améliore réellement l'apprentissage est plus exigeant.
Les bénéfices d'une réponse facile à communiquer
Une loi centrée sur quelques risques graves produit quelque chose de lisible : une protection annoncée, un standard posé, un responsable désigné. C'est utile. Mais le cadre peut aussi rester en dessous du problème réel si les règles prévoient de larges exceptions, ou si elles ne concernent que des produits déjà sous forte pression publique.
Le débat législatif sur les chatbots dans plusieurs États américains en 2026 illustre bien ce mécanisme, selon les auteurs du texte d'origine : des propositions portées par des entreprises prévoyaient des protections de base contre les contenus sexuels ou l'incitation à l'automutilation, tandis que des mesures plus ambitieuses sur la dépendance affective n'ont pas abouti. L'enjeu n'est pas de rejeter les protections minimales. C'est de vérifier qu'elles ne deviennent pas un plafond politique, plutôt qu'un point de départ.
Les dommages diffus sont plus difficiles à attribuer
Si un produit encourage explicitement un acte dangereux, la séquence est souvent simple à décrire. Si, au contraire, un adolescent s'isole progressivement ; si un élève délègue de plus en plus sa rédaction ; si une équipe perd l'habitude de vérifier des réponses automatiques, la causalité devient plus floue. Et tout l'environnement familial, scolaire et social joue.
Cette complexité ne justifie pas l'inaction. Elle impose simplement une méthode de mesure plus sérieuse : observer les usages sur la durée, comparer différents types d'accompagnement, regarder les effets selon l'âge ou le niveau de départ. Elle invite aussi à ne pas demander aux familles ou aux enseignants de prouver seuls qu'un produit a causé un dommage, alors que l'entreprise dispose des données d'usage et maîtrise la conception du service.
Le coût de l'inaction est souvent transféré
Quand un outil est déployé sans évaluation suffisante, les coûts ne disparaissent pas : ils changent de camp. Un enseignant doit distinguer le travail personnel du texte généré. Un parent doit gérer les usages d'un compagnon conversationnel. Un salarié doit contrôler une réponse automatisée dont la qualité n'a pas été mesurée.
Au final, les coûts sont absorbés par les utilisateurs et les institutions, pendant que les bénéfices restent concentrés chez l'éditeur.
Il y a aussi un risque de gouvernance pour les entreprises. Un déploiement rapide peut réduire des coûts à court terme, mais générer des erreurs, une perte de confiance, ou une dépendance fournisseur difficile à corriger. La question ne se limite donc pas à « le modèle est-il sûr ? ». Il faut aussi identifier qui profite de l'automatisation, et qui paye quand elle échoue : du temps, de la correction, de la surveillance, des complications.
Conclusion
Une IA peut éviter les dérives les plus graves tout en fragilisant des habitudes de réflexion, d'apprentissage ou de relation. C'est pour ça que la sécurité doit rester un minimum, pas une « validation » générale du produit. Les effets les plus importants sont parfois progressifs, répartis entre beaucoup d'utilisateurs, et difficiles à attribuer à une seule interaction - mais ils restent réels et pertinents pour décider.
Pour une entreprise, une école ou un décideur public, le bon réflexe est simple : demander des preuves adaptées au cas d'usage. Quel bénéfice est mesuré ? Pour qui ? À quel coût ? Et quelles conséquences en cas d'échec ? Si l'IA est censée rendre les personnes plus capables, il faut vérifier qu'elle développe vraiment leurs capacités - plutôt que d'automatiser leur effort.
Comment évaluer une IA au-delà de la sécurité
Une évaluation utile commence par le cas d'usage, pas par la technologie. Le même modèle peut être raisonnable pour résumer un document interne et inadapté pour répondre seul à une personne en crise. Avant de déployer un outil, une organisation devrait clarifier le besoin, les utilisateurs concernés, les décisions que le système influence, et les tâches qui doivent rester humaines.
On peut organiser la démarche en cinq étapes. Elle ne remplace pas les exigences de sécurité ni la protection des données, notamment celles liées au RGPD. Elle les complète en regardant les effets sur les capacités, les relations et le travail réel.
Décrire ce que l'outil remplace ou modifie
Écrivez la tâche avant de parler de gain de productivité. L'outil aide-t-il à chercher des idées, à corriger, à décider, à converser ou à produire le résultat final ? Une assistance qui donne des indices n'a pas les mêmes effets qu'une génération complète. Il faut aussi prévoir ce qui se passe si l'utilisateur refuse l'outil, ou ne sait pas s'en servir.
Définir le bénéfice attendu et son indicateur
« Gagner du temps » reste trop flou. Mesurez plutôt le temps net économisé après vérification, le taux d'erreur, la compréhension acquise, ou la capacité à réaliser la tâche ensuite sans assistance. À l'école, le critère doit porter sur l'apprentissage, pas seulement sur la qualité des devoirs. Dans une entreprise, il faut intégrer aussi le temps de contrôle et de correction.
Mesurer les effets secondaires
Choisissez quelques indicateurs observables : fréquence d'usage, durée des sessions, recours à une personne réelle, évolution des résultats sans IA, niveau de confiance accordé aux réponses. Les données doivent rester proportionnées et respecter la vie privée. L'objectif n'est pas de surveiller chaque utilisateur, mais de vérifier si l'usage produit les effets attendus et de détecter les dérives plausibles.
Prévoir des limites de conception
Des mesures concrètes peuvent réduire le risque : désactiver les sollicitations de retour, limiter certaines fonctions pour les mineurs, signaler clairement qu'un agent n'est pas une personne, ou exiger une validation humaine avant une décision importante. En contexte éducatif, il peut être préférable d'utiliser l'IA pour expliquer une démarche plutôt que de fournir directement une réponse prête à rendre.
Bien sûr, ces limites ont un coût. Moins de notifications peut diminuer l'engagement. Une étape de vérification peut ralentir le processus. Une restriction d'accès peut frustrer certains utilisateurs. Ce coût doit être comparé à celui d'un produit qui maximise l'usage sans vérifier s'il aide réellement. Optimiser l'attention n'est pas une obligation technique : c'est un choix de conception et de modèle économique.
Réexaminer le déploiement après lancement
Un test ponctuel ne suffit pas si le produit change régulièrement ou si les usages évoluent. Fixez une date de réévaluation, des seuils d'alerte et une personne responsable de la décision. Si les apprentissages baissent, si les erreurs de contrôle augmentent, ou si des utilisateurs deviennent dépendants d'une fonction, l'organisation doit pouvoir ajuster : réduire le périmètre, modifier le dispositif, voire l'arrêter.