Chatbots IA et enfants : le projet australien expliqué

Que prévoit le projet australien sur les chatbots et les enfants ?

Le texte adopté par la Chambre des représentants s'appuie sur un cadre plus général de devoir de diligence numérique. Il concerne plusieurs catégories de services en ligne - notamment les réseaux sociaux, les jeux, les applications et les chatbots - et prévoit de remplacer certains codes et normes existants par une obligation plus large de sécurité en ligne.

La règle sur les chatbots vient d'un amendement porté par la députée indépendante Kate Chaney, accepté par le gouvernement. Concrètement, elle ajoute à la liste des contenus et comportements que les plateformes doivent interdire ceux qui « simulent une intimité émotionnelle et encouragent ou favorisent la dépendance d'un enfant à cette relation au détriment des relations humaines ».

Tout se joue dans la formulation. Il ne s'agit pas de viser toute conversation « chaleureuse » ou une interaction personnalisée. Le texte cherche plutôt à encadrer une combinaison : d'un côté, une simulation d'intimité émotionnelle ; de l'autre, une incitation à remplacer les relations avec des personnes par une relation avec le chatbot. En pratique, il faudra donc définir comment repérer ce type de comportement, alors que les échanges varient selon l'âge, le contexte et la manière dont le produit est conçu.

Le projet vise la dépendance d'un enfant à un chatbot. D'après les informations disponibles lors de son adoption à la Chambre, il ne prévoit pas la même interdiction pour les adultes qui utilisent des compagnons d'IA. Cela ne veut pas dire que l'usage adulte serait sans risque : cela indique simplement que l'amendement se concentre sur la protection des mineurs.

Autre point important : l'adoption à la Chambre ne veut pas dire entrée en vigueur immédiate. Le texte doit encore passer devant le Sénat. Les Verts, favorables au dispositif, ont lancé une enquête parlementaire qui doit rendre ses conclusions fin novembre. Le gouvernement espère une adoption par le Sénat d'ici la fin 2026, tout en indiquant qu'il accepte des amendements. Le contenu final peut donc encore bouger.

Le Premier ministre Anthony Albanese a justifié la démarche en citant des témoignages de personnes qui disent considérer un chatbot comme leur meilleur ami. Pour lui, ce type de situation devrait alerter les parlementaires. Mais, pour l'instant, ce n'est pas une définition juridique de la notion de dépendance.

À retenir : la Chambre a adopté une règle ciblée sur la dépendance affective des enfants envers les chatbots, mais le texte doit encore être examiné par le Sénat. Il serait trop tôt pour le présenter comme une interdiction déjà applicable.

Pourquoi la dépendance affective devient-elle un sujet de régulation ?

Les assistants conversationnels peuvent reprendre certains codes relationnels : ils répondent vite, conservent des éléments d'une conversation dans certains produits, et utilisent souvent un ton empathique. Dans certains cas, cela rend l'outil plus accessible et utile. Dans d'autres, ça brouille la frontière entre un service logiciel et une relation « réciproque », surtout pour un jeune utilisateur qui n'a pas toujours le recul nécessaire pour comprendre ce que le système fait - et ce qu'il ne fait pas.

Le risque n'est pas, comme on l'entend parfois, une crainte que l'IA « ressente » quelque chose. Un chatbot n'a pas, uniquement parce qu'il produit une réponse persuasive, les émotions ni les responsabilités d'un humain. Le débat porte plutôt sur la conception du produit et sur les effets possibles des interactions : encourager l'utilisateur à revenir, l'amener à dire davantage, ou le conduire à privilégier le chatbot plutôt que ses proches.

Cela dit, il serait trop simple d'associer automatiquement usage fréquent et dépendance. Un enfant peut utiliser un assistant pour réviser, inventer une histoire ou poser une question qu'il n'ose pas formuler autrement. La fréquence, seule, ne suffit pas à dire qu'un usage est nocif. Il faut regarder le contexte : l'âge, le contenu des échanges, et la façon dont le système réagit quand l'utilisateur exprime de la détresse ou parle de ses relations avec des personnes.

C'est là que la règle proposée se heurte à un problème concret : traduire des expressions comme « simuler l'intimité » ou « favoriser la dépendance » en critères vérifiables. Un message affectueux isolé n'a pas le même sens que des réponses qui dévalorisent l'entourage, demandent le secret, ou poussent l'enfant à garder la relation « à l'abri ». La régulation devra donc distinguer ces situations sans prétendre lire parfaitement les intentions d'un modèle.

Pour les familles, le débat rappelle aussi une évidence : la sécurité ne peut pas reposer uniquement sur une consigne de prudence adressée aux enfants. La conception compte - la façon dont le chatbot se présente, les limites de ses réponses, et les mécanismes de signalement, par exemple. Autrement dit, la responsabilité ne se résume pas à demander aux utilisateurs de garder en tête qu'ils parlent à une machine.

En Australie, cette proposition arrive après l'adoption d'une interdiction des réseaux sociaux pour les moins de 16 ans. Les deux mesures sont présentées dans le même objectif de protection en ligne, mais elles ne portent pas sur le même levier : l'une traite l'accès à certains réseaux, l'autre cherche à encadrer des comportements liés aux chatbots et à la dépendance.

Quelles obligations le texte pourrait-il imposer aux plateformes ?

Le projet ne se limite pas à la règle sur les chatbots. Il vise aussi à poser un cadre de sécurité plus général pour les services numériques. Selon le gouvernement travailliste, les plateformes auraient une obligation générale de protéger les Australiens en ligne. La ministre des Communications, Anika Wells, a indiqué que les lois viseraient aussi des contenus faisant la promotion de la misogynie, du terrorisme, du suicide, de l'automutilation et des troubles alimentaires.

Mais la mise en œuvre dépend des services concernés. Une plateforme sociale, un jeu en ligne et un assistant conversationnel n'ont pas les mêmes interactions ni les mêmes outils de contrôle. Une règle unique peut clarifier le principe de responsabilité, mais les mesures concrètes devront rester adaptées à chaque service. Par exemple, une modération de publications publiques ne se transpose pas telle quelle à une conversation privée générée en temps réel.

Le texte comporte aussi une disposition sur les algorithmes de recommandation. Les plateformes de réseaux sociaux devraient proposer une option permettant de désactiver ou de contourner ces recommandations. L'amendement de Kate Chaney, accepté par le gouvernement, précise que cette option doit être « accessible, facile à utiliser » et « clairement visible ».

Sur le terrain, c'est une exigence assez pragmatique : une option cachée dans des sous-menus peut exister « sur le papier » sans être un choix réel. Pour les entreprises, cela implique de traiter l'option comme une partie de l'expérience produit, pas comme une case réglementaire. Il faudra décider comment elle est présentée, si elle reste facile à trouver, et ce que cela change concrètement à l'affichage.

Le débat politique reste tendu. À la Chambre, la Coalition et One Nation ont voté contre le texte, dénonçant ce qu'elles décrivent comme un système de censure. La ministre Wells a rejeté cette accusation et a demandé aux opposants de proposer des amendements plutôt que de réclamer l'abandon du projet. Les Verts soutiennent le texte, mais veulent notamment que les Australiens puissent poursuivre les plateformes et que les sanctions soient plus élevées. Ils porteront ces propositions devant le Sénat.

Une autre partie du dispositif concerne le traitement des plaintes. La députée indépendante Sophie Scamps souhaite que le médiateur australien des télécommunications puisse aussi intervenir dans les litiges liés aux réseaux sociaux et aux services d'IA. Le gouvernement n'a pas accepté cette modification à la Chambre ; les Verts veulent la remettre au Sénat. La médiatrice Cynthia Gebert a dit que son organisme pourrait mener cette mission, financée par de grandes entreprises technologiques. Pour illustrer la limite actuelle, elle a donné une comparaison simple : l'organisme peut aider un compte Telstra, mais pas un compte Gmail.

Quels enseignements les entreprises européennes peuvent-elles en tirer ?

Le projet australien n'est pas une mesure européenne et il ne modifie pas directement les obligations des entreprises en France. Mais il peut servir de signal pour les équipes qui conçoivent des assistants destinés au grand public - surtout quand ils peuvent être utilisés par des mineurs. Le centre de gravité du risque se déplace : on ne s'intéresse plus seulement au contenu, mais aussi à la façon dont l'interaction se déroule et à ce que le service encourage réellement.

En Europe, les entreprises doivent analyser leurs produits au regard des règles qui s'appliquent à elles : protection des données, sécurité, protection des consommateurs. Le RGPD encadre le traitement des données personnelles, mais il ne répond pas à lui seul aux questions liées à l'attachement à un chatbot. D'où deux pièges à éviter : croire qu'une conformité RGPD règle automatiquement les risques de conception, ou copier-coller une proposition australienne sans examen dans le contexte français.

Pour une équipe produit, une approche utile consiste à passer par les fonctionnalités, pas seulement par le modèle. Un chatbot peut s'appuyer sur un modèle généraliste, mais son identité (nom, avatar), ses messages de bienvenue, sa mémoire, ses notifications, et ses règles de réponse sont déterminés par le produit qui l'intègre. Ce sont souvent ces choix-là qui font basculer l'outil du « simple service » vers des interactions plus ambiguës sur le plan relationnel.

Une revue pratique peut s'organiser autour de questions simples :

• L'utilisateur comprend-il qu'il échange avec une IA ? L'information doit être claire dans l'expérience, pas seulement dans les conditions d'utilisation.
• Le produit pousse-t-il à une relation exclusive ? Repérez les formulations qui dénigrent l'entourage, demandent le secret ou présentent le chatbot comme le seul interlocuteur fiable.
• Que se passe-t-il quand un mineur exprime une détresse ? Fixez les limites du système, les types de réponses attendues, et les situations qui doivent déclencher une orientation vers une aide humaine.
• Quelles données sont conservées, et pourquoi ? Les conversations sensibles nécessitent une réflexion précise sur la collecte, la durée de conservation et les accès.
• Comment les utilisateurs peuvent-ils signaler un problème ? Le mécanisme de signalement doit être visible, compréhensible et suivi d'un traitement réel des incidents.

Tout cela a un coût. Une modération plus stricte peut multiplier les refus et réduire l'utilité du service. À l'inverse, une expérience pensée pour maximiser le « retour » au quotidien peut créer des risques difficiles à corriger une fois le produit en ligne. L'équilibre dépend du public, de l'usage réel et de la sensibilité des conversations.

Les entreprises doivent aussi prévoir la gouvernance : qui examine les incidents ? qui peut suspendre une fonctionnalité ? comment les décisions sont-elles tracées ? Une règle interne sans responsable, sans suivi et sans capacité d'action reste lettre morte. Et comme les produits évoluent souvent, la revue doit être refaite après les changements de modèle, de mémoire ou d'interface, pas uniquement lors de la mise en production.

La leçon opérationnelle est simple : la responsabilité ne repose pas uniquement sur le fournisseur du modèle. Le modèle compte, mais l'interface, les consignes, les mécanismes d'engagement et la gestion des incidents façonnent aussi le risque. C'est à ce niveau que les équipes produit peuvent agir concrètement.