⚡ Régulation IA : OpenAI & Anthropic veulent des règles
Découvrez pourquoi OpenAI et Anthropic réclament une régulation de l’intelligence artificielle : sécurité, éthique et réglementation de l’IA en Europe.
Réguler l'IA avant que les risques ne changent d'échelle
Les entreprises qui développent les modèles d'intelligence artificielle les plus avancés ne sont pas d'accord sur la meilleure façon de les encadrer. Lors d'une audition parlementaire au Royaume-Uni, des représentants d'OpenAI et d'Anthropic ont estimé que les engagements volontaires ne suffisaient plus et que certaines obligations légales devenaient nécessaires. De leur côté, Google DeepMind et Meta n'ont pas défendu cette approche.
Au-delà du désaccord entre dirigeants, il y a une question très concrète : qui peut vérifier la sécurité d'un modèle, accéder à ses capacités avant sa mise sur le marché et intervenir si les risques deviennent trop importants ? Dans le même temps, le directeur du MI5 mettait en garde contre le fait que l'IA pourrait faciliter la création ou l'utilisation de nouvelles armes biologiques.
Cette audition montre les limites du dispositif britannique actuel, mais elle pose aussi un problème européen : la régulation ne marche que si les autorités ont un accès réel aux modèles et des pouvoirs utilisables. Voici ce que cette séquence éclaire, ce qu'elle ne prouve pas, et les questions auxquelles les entreprises européennes devraient déjà s'attaquer.
Une fracture publique entre les grands acteurs de l'IA
La commission parlementaire britannique chargée des affaires, de l'innovation, de la science et du commerce a entendu quatre entreprises développant des modèles avancés, des anciens salariés devenus lanceurs d'alerte et des hauts fonctionnaires. Le format comptait : il a forcé les entreprises à exposer publiquement leurs différences sur la régulation.
Anthropic a défendu la position la plus ferme. Liam Booth-Smith, responsable pour l'Europe, a déclaré que les règles devaient être contraignantes et que les engagements volontaires ne suffisaient plus. OpenAI, représentée par son vice-président Tom Duff Gordon, s'est montrée plus prudente, tout en soutenant un cadre légal. Elle a notamment insisté sur le signalement obligatoire des incidents et sur l'intérêt d'une convention internationale.
À ce stade, ce n'est pas un appel à un contrôle public de chaque décision technique. Leur désaccord porte surtout sur l'existence d'obligations minimales, en particulier pour les modèles dits « de frontière » : des systèmes parmi les plus avancés, capables d'ouvrir de nouvelles capacités.
Pourquoi les entreprises ne défendent-elles pas toutes la même approche ?
Google DeepMind a mis en avant les normes et les standards plutôt que de demander explicitement un cadre législatif contraignant. Meta a rappelé que le Royaume-Uni dispose déjà de régulateurs et de règles. Les arguments ne se ressemblent pas, mais ils convergent sur un point : l'audition ne doit pas être lue comme une demande commune de nouvelles lois.
Il serait facile d'opposer des acteurs « sérieux » à d'autres « réticents ». En réalité, les entreprises peuvent diverger sur le niveau de risque, la définition des modèles concernés, le calendrier, ou encore sur ce que les autorités pourront faire concrètement une fois les règles écrites. Une loi mal calibrée peut coûter cher sans réduire les dangers. À l'inverse, des principes non contraignants peuvent rester lettre morte si leur application se heurte aux objectifs commerciaux ou à la concurrence entre laboratoires.
Liam Byrne, président de la commission, a expliqué que l'objectif était de rendre ces différences visibles et d'éviter l'idée que l'autorégulation serait, par défaut, suffisante. C'est un rappel important pour les décideurs : l'industrie ne forme pas un bloc uniforme, même quand elle parle le même langage de « sécurité ».
Une position favorable à la régulation n'est pas une garantie de sécurité
Le fait qu'une entreprise soutienne des règles contraignantes ne veut pas dire qu'elle accepte n'importe quelle obligation, ni qu'elle renonce à ses intérêts. Les détails comptent : qui fixe le seuil de risque, quelles informations doivent être transmises, à quel moment un modèle doit être évalué, et quelles sanctions s'appliquent en cas de manquement.
La bonne lecture de l'audition reste donc limitée, mais instructive. OpenAI et Anthropic reconnaissent publiquement que les engagements volontaires ne forment pas un socle durable pour les risques liés aux modèles de frontière. Cela ne tranche pas le débat sur la meilleure loi. En revanche, cela rend plus fragile l'idée qu'une intervention légale serait automatiquement anti-innovation.
Le volontariat a une limite : l'accès et le pouvoir d'agir
Le point le plus concret de l'audition n'était pas une définition théorique de la sécurité. Il portait sur les moyens réels de l'État britannique. L'Institut britannique de sécurité de l'IA (AISI) évalue des modèles avancés avant leur mise à disposition, mais il dépend du choix des entreprises de lui transmettre les systèmes.
Henry de Zoete, qui dirige l'institut, a reconnu que celui-ci dépend entièrement de la coopération des entreprises et de gouvernements étrangers pour obtenir l'accès aux modèles. Cat Little, haute fonctionnaire au Cabinet Office, a confirmé que, sur le moment, le dispositif reposait sur le volontariat. La conclusion tient en une phrase : même avec des spécialistes et des méthodes d'évaluation, on ne peut pas examiner un modèle qu'on n'a pas sous les yeux.
Et surtout : si l'AISI estimait qu'un modèle présentait un danger excessif, il ne pourrait pas en empêcher le lancement. L'institut ne délivre pas une certification qui autorise ou interdit la commercialisation. Il teste, analyse et conseille ; il ne peut pas bloquer.
Trois capacités qu'un régulateur doit distinguer
Quand on parle de « régulation », on met parfois dans le même mot des pouvoirs très différents. Pour évaluer ce qui manque réellement, il est utile de distinguer trois capacités :
- Accéder aux modèles et aux informations techniques, afin de mener une évaluation indépendante plutôt que de s'appuyer uniquement sur ce que l'entreprise publie.
- Imposer des obligations, par exemple le signalement d'incidents ou la transmission d'éléments nécessaires à une analyse de risque.
- Agir en cas de danger, ce qui suppose une autorité capable d'exiger des mesures correctives, voire de suspendre ou de restreindre un déploiement dans certains cas.
Si on n'a que la première capacité, on reste dépendant de la coopération des acteurs. Si on a des règles sans accès vérifiable, on risque de contrôler des déclarations plus que des pratiques. Enfin, un pouvoir d'interdiction trop large ou mal encadré peut créer de l'incertitude et pénaliser des usages peu risqués.
La question n'est donc pas « réguler totalement » versus « ne rien faire ». Elle revient plutôt à construire des pouvoirs proportionnés au niveau de risque, avec des critères transparents et des voies de recours. C'est moins spectaculaire que le débat sur une « pause » de l'IA, mais ça colle mieux aux arbitrages administratifs.
La dépendance aux États-Unis complique le contrôle britannique
L'audition a aussi mis en évidence une dépendance internationale. OpenAI a expliqué qu'elle transmettait ses modèles avant leur déploiement à l'institut américain CAISI, et qu'elle continuerait à les fournir à l'AISI britannique tant que le gouvernement américain l'autoriserait. Anthropic a indiqué qu'à un moment, elle n'avait pas pu donner un accès complet et sans restriction au modèle Mythos 5.1 à l'institut britannique, parce que la décision relevait du gouvernement américain. L'entreprise a ajouté que l'accès avait ensuite été obtenu.
Cette séquence suggère qu'un gouvernement peut vouloir évaluer des modèles sans contrôler seul les conditions concrètes d'accès. Pour le Royaume-Uni, les décisions prises à Washington pèsent donc directement sur la capacité des experts britanniques à examiner des technologies développées par des entreprises américaines.
Le même problème se pose en Europe. Le règlement européen sur l'intelligence artificielle ne supprime pas, à lui seul, les asymétries d'accès ni les limites techniques. Les obligations peuvent fixer des responsabilités, mais leur efficacité dépend aussi des ressources des autorités, de la coopération des fournisseurs et de mécanismes de contrôle réellement applicables. Pour suivre le cadre européen, consultez la présentation du règlement européen sur l'IA.
Des risques de sécurité qui dépassent le débat réglementaire
À quelques centaines de mètres de l'audition, le directeur du MI5, Ken McCallum, a averti que l'IA, utilisée à des fins biologiques, constitue un risque important. Il a décrit comme un scénario encore non réalisé, mais suffisamment préoccupant, la possibilité que l'IA modifie la nature des menaces liées à des armes biologiques existantes ou nouvelles.
Attention : cela ne signifie pas que l'IA a déjà permis de créer une arme biologique. L'enjeu, c'est une inquiétude de sécurité : certains outils pourraient faciliter des étapes de recherche ou d'exécution pour des acteurs malveillants. Ce sujet mérite d'être traité précisément. Une alerte prospective n'est ni la preuve qu'un scénario s'est produit, ni une raison suffisante pour conclure que tous les systèmes d'IA présentent le même niveau de danger.
Pourquoi les capacités avancées appellent une surveillance spécifique
Un modèle généraliste peut servir à des tâches ordinaires, mais aussi à des demandes plus sensibles. Le risque dépend de plusieurs facteurs : les capacités réelles du système, les garde-fous techniques, le profil de l'utilisateur, le contexte d'utilisation et la possibilité de contourner des restrictions. C'est aussi pour ça qu'une évaluation de sécurité ne peut pas se limiter à une fiche produit ou à une déclaration générale de conformité.
Les anciens salariés entendus ont contesté l'idée que les laboratoires puissent s'autoréguler. Daniel Kokotajlo, ancien employé d'OpenAI, a dit ne pas croire que les entreprises puissent être considérées comme fiables pour s'autoréguler. Steven Adler, qui a quitté OpenAI fin 2024 selon le compte rendu de l'audition, a dit manquer de confiance dans la culture de sécurité du secteur. Geoffrey Irving a, lui aussi, critiqué l'idée que les laboratoires seraient enfermés dans une course qu'ils ne pourraient pas éviter.
Ces témoignages éclairent la façon dont les décisions se prennent en interne, mais ils ne remplacent pas une évaluation indépendante. Ils montrent surtout pourquoi la gouvernance ne peut pas reposer uniquement sur des promesses publiques : les décisions de déploiement, les incitations économiques et la pression concurrentielle doivent aussi être examinées.
La sécurité exige des mécanismes vérifiables
Pour une organisation qui utilise l'IA, la leçon n'est pas d'attendre un incident spectaculaire. Il faut documenter les usages, repérer les informations sensibles et clarifier qui intervient en cas de problème. Cela vaut aussi bien pour une entreprise du CAC 40 intégrant un modèle dans un processus métier que pour une PME utilisant un assistant externe pour traiter des documents clients.
Une démarche pragmatique consiste à distinguer :
- les usages à faible impact, où une procédure légère et une validation humaine peuvent suffire ;
- les usages qui influencent une décision importante, où il faut renforcer la traçabilité et la supervision ;
- les usages sensibles ou exposés à des risques de sécurité, qui demandent une analyse spécifique, des contrôles d'accès et un plan de réponse aux incidents.
Le niveau de contrôle doit suivre le risque réel. Une entreprise n'a pas besoin de traiter tous les outils bureautiques comme des systèmes critiques. Mais elle ne devrait pas confier une décision sensible à un modèle sans savoir quelles données il reçoit, comment on vérifie ses réponses et qui peut agir si quelque chose déraille.
Ce que les entreprises européennes doivent en retenir
Le débat britannique peut sembler lointain pour une entreprise française. En pratique, il l'est moins qu'il n'y paraît. En France, beaucoup d'outils viennent de fournisseurs internationaux, les infrastructures sont transfrontalières, et l'accès aux modèles les plus avancés dépend de décisions prises en dehors de l'Union européenne. Autrement dit : la capacité d'un régulateur à agir ne dépend pas uniquement du texte de loi.
Pour les directions générales, les équipes techniques et les responsables de conformité, le défi est de transformer le débat réglementaire en décisions opérationnelles. Attendre une doctrine parfaitement stabilisée revient souvent à laisser s'installer des usages mal documentés. À l'inverse, interdire indistinctement tous les outils d'IA peut ralentir des gains de productivité sans réduire les risques les plus importants.
Un cadre de décision en quatre étapes
Avant de déployer un outil d'IA, une organisation peut s'appuyer sur une grille simple :
- Décrire l'usage, pas seulement l'outil. Le même modèle peut résumer des documents internes, produire des réponses destinées aux clients ou recommander une décision. Le risque se trouve dans le contexte d'usage, pas uniquement dans le nom du fournisseur.
- Qualifier les données et les conséquences d'une erreur. Vérifiez si des données personnelles, confidentielles ou stratégiques sont envoyées au système. Évaluez aussi ce qui se passe si la réponse est incorrecte ou discriminatoire.
- Définir les contrôles nécessaires. Selon le risque, cela peut inclure une validation humaine, des restrictions d'accès, des journaux d'activité, des tests réguliers et une procédure d'escalade.
- Prévoir la sortie. Documentez comment changer de fournisseur, désactiver une fonction ou revenir à un processus manuel si le service devient indisponible ou ne respecte plus les exigences internes.
Cette démarche ne remplace pas les obligations légales. Elle évite plutôt de confondre conformité sur papier et maîtrise réelle. Un dossier bien rempli ne rend pas un système fiable si personne ne vérifie ses résultats au quotidien.
Réguler les usages sans figer l'innovation
Le compromis utile n'est pas de choisir entre innovation et sécurité. Il s'agit d'intensifier les exigences quand les conséquences potentielles augmentent, tout en gardant des règles compréhensibles pour les usages courants. Les évaluations, la déclaration d'incidents et la traçabilité créent forcément une charge. La question est de savoir si cette charge permet de détecter un problème plus tôt et de clarifier les responsabilités ; elle est moins défendable si elle se limite à produire des documents que personne n'exploite.
Le Royaume-Uni cherche aussi à peser dans les discussions internationales. Liam Byrne a évoqué l'idée d'utiliser la prochaine présidence britannique du G20, puis celle de la Corée du Sud, pour pousser une convention internationale qui ne dépende pas uniquement de la politique américaine. L'intérêt est clair : modèles et usages traversent les frontières. La limite l'est tout autant : une convention n'a de valeur que si son contenu, ses signataires et ses mécanismes de respect suivent.
Pour les entreprises européennes, le message est donc double. Les obligations nationales et européennes comptent, mais la coopération internationale, l'accès effectif des autorités aux systèmes et la maturité des fournisseurs comptent aussi. Il faut suivre les textes, mais aussi vérifier les garanties concrètes proposées par les prestataires et garder une capacité de contrôle en interne.
Conclusion : encadrer sans prétendre tout contrôler
L'audition britannique ne prouve pas qu'une loi, à elle seule, suffira à réduire les risques de l'IA. Elle montre surtout quelque chose de plus concret : un dispositif qui dépend du bon vouloir des fournisseurs pour accéder aux modèles et qui, en cas de danger, n'a pas vraiment de leviers d'action dispose d'un mandat trop étroit. Les avertissements du MI5 et les témoignages d'anciens salariés vont dans le même sens : il faut traiter ces risques sans confondre un scénario possible et une menace déjà réalisée.
Pour les entreprises, la réponse utile consiste à identifier leurs usages réels, à adapter les contrôles aux conséquences possibles et à garder la main quand il faut corriger ou changer de cap. Pour les pouvoirs publics, l'enjeu est de combiner expertise indépendante, accès effectif, obligations vérifiables et pouvoirs d'intervention encadrés.
Commencez par cartographier les usages d'IA de votre organisation et les décisions qu'ils influencent. C'est une façon directe de transformer un débat international en actions concrètes, avant que la réglementation - ou un incident - ne vous y oblige. Pour le compte rendu à l'origine de cette analyse, consultez l'article de WIRED.