Risque de l’IA : pourquoi la Fed s’inquiète15 min de lecture2 939 mots

Risque de l’IA : pourquoi la Fed s’inquiète

La Fed voit l’IA comme un risque financier majeur. Comprenez les enjeux du calcul, des systèmes critiques et les décisions à prendre en entreprise.

risque de l’IAintelligence artificielle et financegouvernance de l’IAcoût des infrastructures IAIA et risques opérationnels
Risque de l’IA : pourquoi la Fed s’inquiète

L'IA devient un risque financier : ce que les entreprises doivent comprendre

L'intelligence artificielle n'est plus seulement une question de productivité ou de stratégie numérique. Dans son dernier sondage auprès de contacts des marchés, la Réserve fédérale américaine note que 87 % d'entre eux citent l'IA parmi les risques susceptibles de déstabiliser le système financier, contre 50 % au printemps. À ce stade, ce chiffre ne dit pas que la prochaine crise viendra d'un modèle d'IA. Il dit surtout que les investisseurs voient déjà des risques concentrés - dans les valorisations, les infrastructures et les usages - autour de cette technologie.

La même semaine, un autre signal a ramené le sujet sur un terrain plus concret : que se passe-t-il quand un outil algorithmique touche un système critique, même si le lien avec l'incident n'est pas établi ? Et pendant ce temps, les engagements de calcul annoncés par Anthropic donnent une idée assez nette de l'ampleur des capitaux nécessaires pour entraîner et exploiter des modèles de pointe.

Pour les entreprises françaises et européennes, ces signaux ont un avantage simple : ils invitent à sortir du débat abstrait sur les "promesses" de l'IA et à examiner ses dépendances réelles. Financement, continuité de service, sécurité, responsabilité, gouvernance : ce sont des sujets où l'on peut agir, pas seulement commenter. Voici comment lire ces évolutions et en tirer des décisions opérationnelles.

Pourquoi la Fed place-t-elle l'IA au premier rang des risques ?

Le 87 % est impressionnant, mais il faut le replacer dans son contexte. Il ne s'agit pas d'une probabilité de crise, ni d'une estimation de pertes, ni d'un consensus sur "l'origine" des prochains chocs. C'est la proportion de contacts interrogés par la Fed qui citent l'IA comme un risque notable. Autrement dit, le sondage mesure une inquiétude qui monte vite - sans prédire à elle seule ce qui va se passer.

La Fed associe cette inquiétude à plusieurs mécanismes. Le premier, c'est la valorisation élevée de certaines entreprises liées à l'IA. Quand les marchés misent sur une croissance rapide, les cours intègrent souvent des résultats futurs difficiles à tenir. Si les revenus attendus ne suivent pas, la correction peut toucher aussi bien les investisseurs que les fournisseurs, et les entreprises qui ont bâti leur stratégie sur ces hypothèses.

Le deuxième mécanisme, c'est la cybersécurité. Des modèles plus performants peuvent aider les équipes de défense. Mais ils peuvent aussi réduire le coût de certaines attaques, accélérer la recherche de vulnérabilités ou rendre plus crédibles des campagnes de fraude. Là encore, tout dépend de l'accès aux outils, des garde-fous mis en place et de la capacité à détecter et contenir les incidents.

La Fed pointe aussi des formes de financement plus "intriquées" autour de l'IA. Centres de données, achats de processeurs spécialisés, réservation de capacités : les montants sont élevés. Et les engagements peuvent circuler entre fournisseurs, financeurs et clients. Dans ce contexte, un ralentissement ou une défaillance peut se propager bien au-delà d'une seule entreprise.

De la technologie au risque systémique

Un risque devient "systémique" quand il ne reste pas local. Par exemple, plusieurs acteurs peuvent dépendre des mêmes centres de données, des mêmes fournisseurs de puces, des mêmes services cloud, ou d'un nombre limité de modèles. Dans ce cas, une panne, une hausse de prix ou une restriction d'accès peut impacter plusieurs produits en même temps.

C'est une différence importante avec l'évaluation d'un projet isolé. Une équipe peut voir que son assistant IA fonctionne bien dans son périmètre. Mais elle peut ignorer que la disponibilité dépend d'un fournisseur unique, que les données passent par plusieurs prestataires, ou que le coût varie avec le volume d'utilisation. La performance du modèle ne dit rien, à elle seule, sur la robustesse de l'ensemble.

À retenir : le signal de la Fed ne justifie pas de traiter "toute l'IA" comme dangereuse. Il invite plutôt à cartographier les concentrations de risques et les dépendances qui relient les entreprises entre elles.

Que nous apprend l'incident de l'aviation américaine ?

Aux États-Unis, la Federal Aviation Administration a interrompu les vols à l'échelle nationale quelques jours après le déploiement d'un outil d'IA dans des centres régionaux de contrôle aérien. Le secrétaire aux Transports a évoqué un problème de communication impliquant ces centres. S'agissant du système SMART, les autorités ont indiqué qu'elles examinaient ce qui s'était passé. Le constructeur de l'outil, Air Space Intelligence, a déclaré que l'arrêt n'était pas dû au système SMART.

La distinction est cruciale : les informations publiques ne permettent pas d'affirmer que l'outil a causé la panne. Elles ne permettent pas non plus de conclure qu'il n'a eu aucun rôle. Dans un incident qui implique plusieurs systèmes et plusieurs équipes, le fait que l'événement survienne juste après un déploiement est un élément à vérifier, pas une preuve.

C'est précisément dans ces situations que la conception opérationnelle compte. Un outil peut donner des recommandations sans décider à la place des humains. Mais si les utilisateurs ne savent pas quand suivre ses suggestions, comment contrôler ses sorties, ou comment revenir en procédure manuelle, la notion de "contrôle humain" devient fragile. À l'inverse, un mode de repli clair réduit l'impact d'une erreur ou d'une indisponibilité.

Concevoir le déploiement autour du mode dégradé

Pour un système utilisé dans un contexte sensible, il faut définir le fonctionnement en cas de panne avant la mise en production. Le plan doit dire clairement : qui peut suspendre l'outil, quelles opérations restent possibles sans lui, quels événements déclenchent l'escalade, et comment on reconstitue les décisions prises pendant l'incident.

Une entreprise n'a pas besoin de gérer du contrôle aérien pour appliquer la même logique. Elle peut la reprendre telle quelle pour un outil qui classe des demandes de remboursement, assiste un centre d'appels, prépare des documents réglementaires ou aide à traiter des alertes de sécurité. Le vrai sujet, c'est le rôle concret attribué au système.

Avant un déploiement, une équipe devrait vérifier :

  • si l'IA recommande, automatise ou bloque une action ;
  • quelles personnes valident les résultats et avec quel niveau d'information ;
  • comment le service continue si le modèle ou le fournisseur devient indisponible ;
  • quelles traces permettent d'analyser une décision après un incident ;
  • si les utilisateurs ont été formés aux limites de l'outil.

Cette approche ne suppose pas que l'IA est coupable de chaque panne. Elle évite surtout un scénario plus fréquent : une organisation qui ne sait pas distinguer une défaillance du modèle, une erreur d'intégration, une panne d'infrastructure ou un problème de procédure.

Pourquoi le coût du calcul devient-il un risque stratégique ?

Les modèles d'IA de pointe reposent sur une infrastructure coûteuse : processeurs, centres de données, énergie, réseaux, et capacités disponibles au bon moment. Le dossier d'introduction en Bourse d'Anthropic, tel que rapporté dans la source, fait état de 900,9 milliards de dollars d'engagements de calcul courant jusqu'en 2045. L'ordre de grandeur montre l'échelle des investissements envisagés. Mais cela ne veut pas dire que toutes les entreprises doivent construire leurs propres infrastructures.

Le dirigeant d'Anthropic présente le calcul comme un dilemme : acheter trop de capacité, c'est payer pour des ressources inutilisées ; en acheter trop peu, c'est ne pas pouvoir servir les clients. La stratégie décrite repose sur la réservation d'une partie des besoins à l'avance, puis un complément "au besoin" sur le marché. Ça peut marcher pour une entreprise capable de négocier à grande échelle. Pour une PME ou un éditeur de logiciels, la transposition n'est pas automatique.

Le financement ajoute une couche supplémentaire. Les prévisions rapportées par JPMorgan évoquent un volume record d'émissions obligataires américaines attendu en 2027, en partie porté par les investissements liés à l'IA, aux centres de données et aux puces. Quand une vague d'investissements est financée par la dette, la rentabilité future devient déterminante. Si la demande baisse, ou si les technologies évoluent plus vite que prévu, on peut se retrouver avec des actifs coûteux et sous-utilisés.

Le risque existe aussi chez les utilisateurs

Même quand une entreprise passe par une API ou un assistant hébergé, elle ne finance pas directement le centre de données. Mais elle reste exposée à d'autres risques : évolution des tarifs, limites d'usage, changement de modèle, modifications contractuelles, indisponibilité du service. Et si son produit dépend d'un fournisseur unique, une décision commerciale prise ailleurs peut se répercuter sur ses propres engagements clients.

D'où l'intérêt de distinguer trois postes qu'on confond souvent : le coût d'expérimentation, le coût de production et le coût de dépendance. Un prototype peut être peu coûteux : peu de données, usage limité. En production, les volumes augmentent, les exigences de disponibilité arrivent vite et il faut surveiller les résultats. Le coût de dépendance correspond, lui, aux efforts nécessaires pour changer de fournisseur, adapter le produit ou maintenir le service autrement.

Pour mieux maîtriser ces coûts, une organisation peut :

  • calculer le coût par tâche utile, plutôt que se focaliser sur le prix d'un appel ;
  • limiter les usages où une règle classique ou une recherche documentaire suffit ;
  • mettre en cache les réponses stables quand le contexte le permet ;
  • prévoir un modèle de remplacement ou une procédure manuelle pour les fonctions essentielles ;
  • tester régulièrement les tarifs et la qualité sur des cas représentatifs.

L'objectif n'est pas de "couper partout" à court terme. C'est de comprendre quelles dépenses créent vraiment de la valeur, quelles capacités sont réellement nécessaires, et ce que coûterait un changement de fournisseur.

Quels risques opérationnels et de gouvernance faut-il anticiper ?

Les exemples évoqués ici décrivent des risques différents, mais ils ont un point commun : l'IA s'insère dans des systèmes humains et techniques déjà complexes. Les modèles peuvent soutenir la cybersécurité, s'intégrer à des outils de travail, ou manipuler des données sensibles. Et dans le même temps, un appel vidéo peut être exploité par des personnes qui usurpent une identité - comme l'illustre un appel de 17 minutes reçu par trois membres d'équipes de sécurité nationale d'OpenAI, selon The Intercept.

Ce cas ne prouve pas une faiblesse "propre" aux modèles. Il rappelle juste que, dès qu'une équipe travaille avec l'IA, elle reste exposée aux risques classiques d'ingénierie sociale. La sophistication technique ne remplace pas la vérification d'identité, la limitation des informations partagées, ni la séparation entre ce qui peut être décidé et ce qui doit être validé.

Les outils du quotidien posent aussi des questions de données. Un fichier téléversé dans un assistant peut rester conservé séparément de la conversation qui a servi à l'introduire. Supprimer un échange ne signifie donc pas forcément supprimer le document associé. Pour une entreprise européenne, il faut savoir : quelles données sont déposées, combien de temps elles sont conservées, qui peut y accéder, et comment une demande d'effacement est traitée. Ces points s'inscrivent aussi dans le RGPD et dans les engagements contractuels du fournisseur.

Gouverner l'usage, pas seulement le modèle

Une politique d'IA utile ne se résume pas à une liste d'outils autorisés. Elle doit préciser les usages permis, les données qu'on peut saisir, les contrôles à mettre en place et qui porte la responsabilité en cas d'erreur. Et elle doit être compréhensible au quotidien : si une règle ne peut pas être appliquée dans la vraie vie du métier, elle sera contournée.

Dans l'Union européenne, l'AI Act ajoute un cadre réglementaire à prendre en compte, avec des obligations qui varient selon la nature et le niveau de risque. Mais respecter la réglementation ne remplace pas la conception opérationnelle. On peut être "conforme sur le papier" tout en ayant un processus mal pensé pour vérifier les sorties, traiter les incidents ou informer les utilisateurs.

Pour éviter les angles morts, ça aide de tenir un inventaire simple des usages : fonction concernée, fournisseur, données utilisées, personnes responsables, conséquences possibles d'une erreur, et procédure de secours. Cet inventaire doit évoluer avec le produit. Un outil testé sur des données fictives ne pose pas les mêmes enjeux que lorsqu'il manipule des données clients ou influence une décision de gestion.

Enfin, les équipes doivent pouvoir signaler les incidents et les quasi-incidents sans attendre que le problème remonte à l'extérieur. Les débats américains sur des canaux volontaires de signalement montrent que les autorités veulent aussi améliorer le partage d'informations. Pour une entreprise, l'enjeu immédiat est plus concret : détecter tôt, documenter les faits, et ne pas confondre une hypothèse de cause avec une causalité établie.

Comment évaluer sa dépendance à l'IA sans freiner l'innovation ?

La "bonne" question n'est pas « faut-il adopter l'IA ? », mais « quel problème mérite qu'on ajoute cette dépendance ? ». Parfois, un modèle réduit le travail répétitif ou améliore l'accès à l'information. Parfois, le gain est trop faible par rapport au coût d'intégration, aux vérifications humaines et aux risques liés aux données.

Une évaluation pragmatique commence par le processus métier, pas par le choix du modèle. Il faut décrire la tâche, le volume, les points de friction et le niveau de qualité attendu. Ensuite, on fixe une mesure de référence : temps de traitement, taux d'erreur, coût par dossier ou satisfaction des utilisateurs. Sans mesure avant déploiement, on aura du mal à distinguer un progrès réel d'un prototype qui "fait forte impression".

Un cadre de décision en cinq étapes

  1. Délimiter la tâche. Définissez précisément ce que le système doit faire et ce qu'il ne doit pas faire. « Aider le service client » est trop vague ; « proposer un brouillon de réponse à partir d'une base documentaire validée » est testable.
  2. Choisir le niveau d'autonomie. Une sortie proposée à un salarié n'a pas le même risque qu'une action exécutée automatiquement, ni qu'une décision qui impacte un client. Le point de départ doit être le niveau minimal qui donne un gain mesurable.
  3. Tester sur des cas réels et des exceptions. Les démos ne ressemblent pas toujours au quotidien. Il faut évaluer des demandes courantes, des données incomplètes, des cas ambigus et des tentatives d'usage détourné. Et il faut faire intervenir les personnes qui traiteront réellement les résultats en production.
  4. Chiffrer le coût complet. Mettez dans la balance le développement, l'intégration, les appels au modèle, le contrôle humain, la gestion des erreurs, la sécurité et le coût de sortie. Un outil qui économise "quelques minutes" peut coûter beaucoup si chaque résultat doit être revu en entier.
  5. Définir les conditions d'arrêt. Fixez des indicateurs qui déclenchent une réévaluation : hausse des erreurs, changement de prix, indisponibilité répétée, incident de données ou baisse de la qualité perçue. Sans critère d'arrêt, une expérimentation finit souvent par devenir un service permanent sans décision assumée.

Cette méthode ne freine pas forcément l'innovation. Elle évite surtout de confondre une démonstration séduisante avec un système durable. Elle aide aussi à rendre les arbitrages plus clairs pour les équipes produit, techniques, juridiques et financières.

À retenir

  • La hausse des préoccupations à la Fed signale une concentration de risques, pas une prédiction de crise.
  • Une panne survenant après un déploiement ne prouve pas que l'IA en est la cause ; il faut s'appuyer sur les faits et enquêter.
  • Le coût du calcul concerne aussi les utilisateurs, via les tarifs, la disponibilité et la dépendance aux fournisseurs.
  • La gouvernance doit couvrir les données, les usages, les responsabilités et les modes de repli.
  • Le meilleur déploiement est celui dont le gain, les limites et les conditions d'arrêt sont mesurables.

Conclusion

Le fait que l'IA figure désormais en tête des risques cités par des contacts de la Fed change la conversation. On ne parle plus seulement de savoir si les modèles amélioreront un produit ou une opération. Il faut aussi comprendre ce qui les rend possibles : infrastructures, capitaux engagés, dépendances créées, et conséquences concrètes d'une erreur ou d'une panne.

Pour les entreprises européennes, la réponse n'est ni l'adoption systématique, ni le rejet "par principe". Il s'agit de choisir des usages précis, de mesurer les bénéfices, de protéger les données et de concevoir un fonctionnement de secours crédible. Quand les risques, les responsabilités et les coûts sont visibles, l'IA peut s'intégrer sans transformer l'activité en pari sur une "boîte noire" que personne ne sait réellement arrêter.

Questions frequentes

Il désigne la part des contacts interrogés par la Fed qui ont cité l’IA comme un risque notable pour la stabilité financière. Ce n’est ni une probabilité de crise ni une mesure des pertes attendues. La comparaison avec les 50 % du sondage du printemps indique surtout une progression rapide des préoccupations.
Les informations rapportées ne permettent pas de l’affirmer. Les autorités américaines ont indiqué qu’elles examinaient l’incident, tandis que le constructeur du système SMART a déclaré que l’arrêt des vols n’était pas dû à son outil. Il faut distinguer la proximité temporelle d’un déploiement d’une causalité démontrée.
Ils illustrent l’ampleur des ressources nécessaires pour développer et exploiter des modèles de pointe. Ils montrent aussi le dilemme entre réserver trop de capacité, au risque de payer des ressources inutilisées, et en réserver trop peu, au risque de ne pas répondre à la demande.
Elle peut mesurer ses usages et leurs coûts, éviter de confier au modèle les fonctions qui n’en ont pas besoin, prévoir un fournisseur ou un mode de secours et tester la réversibilité. Il faut aussi vérifier les conditions de conservation des données et les procédures de suppression applicables.

Articles similaires