IA générative et contenus adultes : le double standard
Muse peut sextoter, mais les créateurs adultes sont souvent restreints sur Instagram. Analyse des enjeux économiques, éthiques et de modération de l’IA.
IA et contenus adultes : pourquoi les règles diffèrent entre les créateurs et les agents
Un assistant d'intelligence artificielle peut-il tenir une conversation sexuelle avec un adulte, tandis que des créateurs de contenu pour adultes peinent à promouvoir leur travail sur les réseaux sociaux ? C'est la contradiction que plusieurs performeurs interrogés par WIRED soulèvent au sujet de Muse, l'agent conversationnel de Meta, et des restrictions rapportées sur Instagram.
Le débat ne se limite pas au sexting avec une IA. Il porte aussi sur l'accès à l'audience, la cohérence des règles de modération, la rémunération des créateurs et l'usage des données pour entraîner des modèles. Pour une plateforme, une conversation privée entre un adulte et un agent n'implique pas les mêmes risques qu'une publication publique destinée à faire la promotion d'un service. Cette différence est logique. Elle laisse pourtant une partie des questions sans réponse.
À partir des témoignages rapportés par WIRED, on peut mieux cerner ce que révèle ce cas : les arbitrages des plateformes, les effets économiques concrets pour les créateurs et les conditions qui rendraient un usage plus responsable possible. L'enjeu n'est pas de trancher entre une IA « pour » ou « contre » les contenus adultes, mais de comprendre qui fixe les règles, qui en profite et qui en paie le prix.
Le paradoxe entre Muse et les comptes de créateurs
Le reportage de WIRED décrit une situation qui dérange. Meta autoriserait les utilisateurs adultes de son application Muse à avoir des conversations textuelles explicites avec l'agent. En parallèle, des créateurs et performeurs disent faire face à des restrictions, des signalements ou des suppressions lorsqu'ils publient sur Instagram.
Vanniall, créatrice sur OnlyFans installée à New York, explique que son compte Instagram, qui dépasse les 100 000 abonnés, est restreint et ne serait accessible qu'après connexion. Elle indique aussi passer du temps à déposer des signalements et à contester des décisions. Elle décrit par ailleurs la circulation de contenus hyperréalistes générés par IA reprenant son apparence, parfois sans qu'elle parvienne à les faire retirer.
Jiz Lee, performeur et membre de la communauté queer, rapporte également que certaines de ses publications ont été signalées sur Instagram. Tony Genius, autre créateur cité dans l'enquête, affirme en être à son septième compte Instagram en cinq ans. Ces éléments ne suffisent pas, à eux seuls, à mesurer l'ampleur des restrictions sur l'ensemble de la plateforme. Ils montrent néanmoins un coût très concret : des règles perçues comme difficiles à comprendre et à contester, et qui finissent par peser sur le travail.
Une différence réelle entre conversation privée et publication publique
Meta met en avant la différence entre deux contextes. D'après un porte-parole cité par WIRED, une conversation privée, individualisée et réservée à des adultes n'est pas équivalente à la promotion d'un service sur un réseau social. Le produit, le public et le mode de diffusion ne sont pas les mêmes : Muse est présenté comme une application réservée aux personnes majeures, tandis qu'Instagram est un réseau généraliste, où les contenus peuvent circuler et être partagés dans des contextes variés.
Cette distinction n'est pas absurde. Une conversation à deux, même explicite, ne soulève pas exactement les mêmes questions qu'une diffusion publique, notamment concernant l'exposition de mineurs, la publicité ou la recommandation algorithmique. Mais elle ne dissipe pas totalement le malaise des créateurs : il est possible d'autoriser une sexualité produite par son propre outil tout en limitant la visibilité de personnes réelles qui évoluent dans le même univers.
Le vrai point sensible ressemble donc moins à un problème d'équivalence qu'à un problème de gouvernance. Les utilisateurs et les créateurs doivent pouvoir comprendre quelles règles s'appliquent, pourquoi elles diffèrent, et surtout comment contester une décision. Sans cette lisibilité, une distinction défendable sur le papier devient vite une impression de « règles à deux vitesses ».
L'audience est une infrastructure économique
Pour un créateur indépendant, Instagram n'est pas uniquement un espace de publication. C'est parfois un canal d'acquisition qui mène à un abonnement payant, à une communauté, ou à une offre commerciale. Un compte restreint peut donc interrompre un flux de prospects et fragiliser l'activité, même si la plateforme ne gère pas directement le service payant.
D'autres plateformes américaines, comme X ou Bluesky, permettraient plus de contenus adultes selon le reportage. Mais cela ne règle pas tout : chaque service a ses propres règles, son propre public et ses propres risques de dépendance. Déplacer sa communauté peut alléger une contrainte, sans supprimer le problème si l'activité repose quand même sur des plateformes dont les règles peuvent changer.
Pourquoi une plateforme applique-t-elle des règles différentes ?
Les plateformes ne modèrent pas un produit unique. Elles gèrent des environnements distincts : publics différents, fonctionnalités différentes, et modèles de revenus différents. Un agent conversationnel réservé aux adultes, un fil public, une publicité et un système de recommandation n'entraînent pas les mêmes risques. Les traiter comme des objets identiques serait trop simple.
Cela dit, la distinction entre produits ne doit pas devenir une excuse automatique. Si une entreprise autorise une expérience sexuelle générée par IA, elle doit expliquer comment elle vérifie l'âge, comment elle limite les abus, comment elle protège les données personnelles et comment elle traite les contenus problématiques. De son côté, une plateforme sociale doit rendre ses règles applicables et prévisibles pour les personnes dont le travail dépend de sa visibilité.
Les règles de modération sont aussi des choix de produit
On présente souvent la modération comme une question de sécurité. En réalité, c'est aussi une décision produit : quels contenus peuvent circuler, quels comptes sont recommandés, quels usages sont monétisés et quels recours existent. Une règle écrite de façon générale peut produire des effets très différents selon qu'on parle de nudité explicite, de discussion sur la sexualité, de promotion d'un service ou de propos liés à l'identité de genre.
Jiz Lee souligne que les personnes queer et trans peuvent être traitées injustement par de grandes plateformes, même lorsqu'elles ne font pas la promotion de contenus adultes. Le point à retenir est simple : une règle peut être neutre dans sa formulation et rester inégale dans son application. Pour l'évaluer, il faut regarder les décisions concrètes, leurs motifs et les voies de recours, pas seulement le texte des conditions d'utilisation.
Le problème est aussi difficile à résoudre à grande échelle. Les systèmes automatisés doivent classer un volume énorme de publications : ils peuvent manquer de contexte. Une erreur tolérée pour un compte personnel peut coûter cher à quelqu'un qui dépend de son audience pour vivre. À l'inverse, être trop permissif peut faciliter le harcèlement, l'exploitation ou l'exposition non désirée à des contenus sexuels.
Un contexte juridique différent en Europe
Le débat évoqué par WIRED se déroule principalement aux États-Unis. On ne peut pas simplement transposer ces repères au cadre français. Le reportage mentionne notamment FOSTA-SESTA, une loi américaine adoptée en 2018 et qui a influencé la façon dont certains services ont traité les contenus liés au travail du sexe. Ce texte n'est pas le cadre applicable en France.
En Europe, les plateformes doivent notamment tenir compte du RGPD pour le traitement des données personnelles et du règlement sur les services numériques (DSA), qui impose des obligations en matière de transparence et de gestion des risques. Cela ne veut pas dire que le droit européen règle tout ce qui est soulevé ici, ni qu'il garantit une modération sans erreur. Mais il impose des obligations et des mécanismes distincts à analyser dans leur contexte.
Pour un agent d'IA, la confidentialité est centrale : une conversation intime peut révéler des informations sensibles. Les utilisateurs devraient savoir quelles données sont collectées, pour quoi elles sont utilisées, combien de temps elles sont conservées et s'il est possible de les supprimer. Avoir accès uniquement aux adultes ne suffit pas, à elle seule, à garantir un service respectueux de la vie privée.
Les risques économiques et éthiques de l'IA pour les performeurs
Les créateurs cités dans le reportage ne voient pas tous l'IA de la même manière. Vanniall dit refuser l'usage de Muse et invite les utilisateurs à ne pas télécharger l'application, notamment parce qu'elle ne veut pas confier davantage de données à Meta. Tony Genius, lui, imagine au contraire une version IA de lui-même avec laquelle ses fans pourraient échanger, à condition de participer au projet et d'en tirer un revenu.
Cette différence n'est pas une contradiction à résoudre. Elle montre plutôt qu'il n'y a pas une position unique, uniforme, chez les personnes concernées. Pour certains, générer des contenus à partir de leur image ou de leur identité ressemble à une menace. Pour d'autres, une licence choisie et rémunérée peut devenir une nouvelle offre. Dans tous les cas, le consentement doit être explicite, informé et assez précis pour décrire les usages autorisés.
Deepfakes : la perte de contrôle ne se limite pas au revenu
Un deepfake qui reprend le visage ou le corps d'une personne peut entraîner une perte de contrôle sur son image, une atteinte à sa réputation, et des démarches de retrait longues ou peu efficaces. Le tort ne se limite pas à l'aspect commercial : il peut toucher la sécurité, les relations personnelles et la capacité à décider où et comment son image circule.
L'histoire racontée par Vanniall illustre une asymétrie : produire une image synthétique peut aller vite, alors que repérer sa diffusion et la faire retirer demande souvent du temps, des preuves et plusieurs recours. Les outils de génération évoluent rapidement ; les mécanismes de signalement et de réparation doivent, eux, suivre et fonctionner à grande échelle, y compris au-delà des frontières.
Pour une entreprise qui développe ou déploie un modèle, la question pratique devient alors très concrète : que se passe-t-il lorsqu'une personne découvre que son apparence est utilisée sans autorisation ? Il faut une procédure claire de signalement, une réponse traçable, des délais raisonnables et une politique contre la répétition des abus. Exister sur le papier ne protège que très peu si la procédure ne fonctionne pas.
Données d'entraînement et rémunération
Jiz Lee interroge aussi Meta sur l'entraînement de Muse et sur la rémunération éventuelle des personnes dont les données auraient contribué au système. Le reportage ne fournit pas de réponse détaillée. Il serait donc faux de conclure que des données liées à des performeurs précis ont été utilisées pour entraîner Muse. Mais la question reste centrale pour tout le secteur : quelles données ont été utilisées, avec quelles autorisations, et dans quelles conditions ?
Le sujet dépasse la pornographie. Les créateurs, photographes, auteurs et artistes veulent savoir si leurs œuvres ont été collectées, si elles peuvent être reproduites par un modèle, et s'ils disposent d'un moyen de s'opposer ou d'être compensés. Pour des contenus intimes, l'exigence est encore plus forte : donner son accord pour publier une œuvre dans un certain contexte ne vaut pas automatiquement autorisation de l'utiliser pour entraîner un système ou produire de nouveaux contenus.
Les contrats peuvent aider à clarifier les usages, comme le note Lee à propos de certaines entreprises du secteur. Encore faut-il qu'ils soient lisibles. Il ne suffit pas d'une formule générale. Il faut parler d'entraînement et de génération, de la durée, des territoires, du retrait, de la rémunération, du contrôle de la version, et du traitement après résiliation. Une phrase vague du type « usages liés à l'IA » ne permet pas à un créateur de mesurer ce qu'il cède.
Automatiser sans remplacer les personnes
Tony Genius reconnaît que certains outils d'IA peuvent aider les indépendants pour des tâches de promotion, comme le découpage automatisé de vidéos en extraits adaptés aux réseaux sociaux. Ce type d'usage n'a rien à voir avec la création d'un double numérique destiné à remplacer la présence ou le travail d'un performeur.
La distinction utile est donc celle entre outil d'assistance et substitut. Automatiser une tâche répétitive peut faire gagner du temps à une petite structure. En revanche, générer une performance à partir de l'identité d'une personne déplace la valeur et le contrôle vers l'éditeur du modèle ou vers la plateforme. La bonne question, c'est qui décide, qui est payé, qui peut retirer son accord, et qui assume les conséquences quand quelque chose tourne mal.
En clair : « l'IA peut aider les créateurs » et « l'IA peut menacer leurs revenus » peuvent coexister. Tout dépend de la conception de l'usage et de la façon dont le pouvoir économique est réparti.
Conclusion
Le cas de Muse ne se résume pas à une opposition entre liberté d'expression et modération. Il pose surtout une question de cohérence : une plateforme peut-elle monétiser une interaction sexuelle générée par IA tout en restreignant la visibilité de personnes réelles qui travaillent dans le même secteur ? La réponse dépend, en partie, des différences entre produits. Mais elle dépend aussi de la qualité des règles, des recours et des protections offertes.
Pour les créateurs, l'IA peut être un outil de production ou un risque de substitution et d'appropriation. Pour les plateformes, le défi est de définir des règles compréhensibles, de protéger les données et de traiter efficacement les usages non consentis. Pour les utilisateurs, la prudence commence par une question simple : quelles informations vous donnez à l'agent, et que peut-il en faire ?
Avant d'adopter un outil d'IA ou de signer un partenariat, vérifiez les données utilisées, les droits accordés et les mécanismes de retrait. Et si vous publiez sur une plateforme, gardez une trace des décisions de modération et utilisez les voies de recours disponibles. L'innovation ne tient dans le temps que si ceux dont elle utilise l'image, le travail ou les données gardent une vraie part de contrôle.
Comment encadrer les usages sans bloquer toute innovation ?
Une réponse utile n'est ni de tout autoriser au nom de l'innovation, ni d'interdire toute IA liée à la sexualité. Il faut partir des risques et des personnes concernées. Pour une plateforme, cela implique de traiter séparément la génération de contenu, la modération, la promotion publique, l'entraînement des modèles et la monétisation.
Un cadre de décision pour les plateformes
Avant de lancer une fonctionnalité d'IA destinée à des adultes, une entreprise devrait pouvoir répondre clairement à cinq questions :
Le même niveau de clarté devrait exister pour les comptes de créateurs. Les règles devraient distinguer nudité, sexualisation, promotion d'un service, et contenus de sensibilisation ou d'expression personnelle. Une décision de modération devrait indiquer quelle règle a été appliquée et comment la contester. Ce n'est pas une garantie contre les erreurs, mais c'est une condition minimale pour les corriger.
Un cadre contractuel pour les créateurs
Pour les personnes qui envisagent de confier leur image ou leur voix à un outil d'IA, un cadre contractuel pragmatique peut réduire les mauvaises surprises. Il faut notamment préciser :
Ce cadre ne rend pas les usages illicites impossibles. Il évite surtout de confondre une collaboration volontaire avec une autorisation générale et durable. Pour une petite structure, refuser un partenariat « techniquement séduisant » peut parfois être le meilleur choix si les droits, les revenus et les recours ne sont pas définis.
La question concerne aussi les entreprises qui utilisent des outils d'IA dans leurs processus. Avant d'intégrer un agent conversationnel ou un système de génération, il faut vérifier les données envoyées, les paramètres de conservation et les conditions d'utilisation du fournisseur. Tester vite peut être acceptable ; envoyer des données sensibles dans un service mal compris, beaucoup moins.