"L'IA permet de satisfaire les fantasmes à la demande" : pourquoi les géants du secteur s'ouvrent de plus en plus aux contenus érotiques et pornographiques

Le futur de l'intelligence artificielle consiste-t-il à trouver un remède au cancer et sauver la planète, ou seulement à générer des contenus pornographiques à la chaîne (ou les deux) ? Le géant de l'IA générative OpenAI a suscité l'interrogation de nombreux internautes mardi 14 octobre, quand son patron Sam Altman a annoncé sur X que ChatGPT pourrait avoir des conversations à caractère érotique à partir de décembre 2025. OpenAI n'est pas la seule entreprise de la tech à prendre ce virage. La plupart des modèles d'IA ouverts au grand public interdisent la création de contenus destinés aux adultes, mais plusieurs géants du secteur s'ouvrent progressivement à ce type d'usage. Cette évolution n'étonne pas vraiment mais divise.

Un autre géant de l'IA fait de la génération de contenus érotiques un argument de vente : xAI et son propriétaire Elon Musk. Le milliardaire à la tête de SpaceX, Tesla et X partage régulièrement des clips vidéo générés par son IA Grok Imagine, montrant des personnages féminins dans un style "anime" en tenue légère. La version de Grok Imagine sortie en août permet de générer des vidéos ouvertement pornographiques, rapporte le site américain Rolling Stone. xAI a également sorti en juillet "Ani", un chatbot assisté d'un design de personnage féminin. Le personnage au style gothique, clairement inspiré du manga Death Note, peut avoir des conversations érotiques et se déshabiller à la demande du propriétaire du compte, décrit BFMTV.

Et même quand les IA ne promettent pas de pouvoir générer des contenus érotiques, il est souvent possible de contourner leurs garde-fous. L'IA de Google, Gemini, a notamment pu générer des phrases explicitement connotées sexuellement à une utilisatrice dont l'âge renseigné sur son compte Google était de 13 ans, détaille une journaliste du magazine américain The Atlantic.

Un moyen de fidéliser les utilisateurs

Comment les entreprises qui prennent un virage déclaré vers les contenus érotiques le justifient-elles ? "Nous voulons traiter nos utilisateurs adultes comme des adultes", avait déclaré Sam Altman le 6 octobre devant des journalistes à San Francisco. "Si tu veux que ton ChatGPT réponde de manière très humaine, utilise plein d'émojis ou se comporte comme un ami, il devrait le faire (mais seulement si c'est ce que tu veux, pas parce qu'on cherche à gonfler au max l'utilisation)", plaide le patron d'OpenAI sur X.

"Les adultes qui ne courent pas de risque grave (dépression nerveuse, suicide, etc.) devraient bénéficier d'une grande liberté dans leur utilisation de ChatGPT."

Sam Altman, patron d'OpenAI

sur X

Ce plaidoyer pour la liberté pourrait rapporter gros à OpenAI. "OpenAI veut construire la nouvelle grande plateforme de masse après les réseaux sociaux et compte sur la hausse du nombre d'utilisateurs payants pour devenir bénéficiaire", explique Pierre-Carl Langlais, co-fondateur de la start-up française Pleias, contacté par franceinfo. Le spécialiste rappelle qu'OpenAI propose déjà des abonnements payants et va proposer des achats intégrés dans ChatGPT, là aussi pour devenir omniprésent et toucher de l'argent via des commissions.

Or les contenus érotiques et pornographiques représentent une manne potentielle, parce qu'ils peuvent convaincre certains utilisateurs de rester encore plus longtemps sur l'application et de payer un abonnement dédié. "J'irais jusqu'à dire que [les contenus érotiques et pornographiques] sont probablement l'un des cas d'usage les plus rentables, les plus fidélisants et les plus lucratifs des applications grand public de l'IA à l'heure actuelle", écrit Besart Çopa, co-fondateur de plusieurs start-up, sur X.

Ce segment de marché est également plus facile à investir que la pornographie classique. "L'IA génère des contenus privés, ce qui limite les problèmes de contrôle de l'accès que peuvent avoir des sites de vidéos, et il n'y a pas besoin d'acteurs ou d'auteurs pour les réaliser, ce qui élimine tout un tas de questions liées au consentement ou à la rémunération", pointe Pierre-Carl Langlais. "Chaque personne a des fantasmes différents, et l'IA permet d'en satisfaire à la demande", ajoute le spécialiste, "même si certains usages ne sont pas admissibles et doivent être régulés".

Des risques pour les plus fragiles

Mais ce pari de la liberté d'utilisation et de la recherche de profit rencontre des réticences. Beaucoup s'inquiètent des conséquences de ce virage pour les utilisateurs psychologiquement vulnérables, alors que beaucoup utilisent ChatGPT comme un "thérapeute" à la demande, développant parfois une relation de confiance.

Les utilisateurs pourraient développer un attachement d'autant plus fort avec un logiciel capable de simuler l'intimité et l'affection, brouillant les frontières entre fiction et réalité. Un homme de 76 ans atteint de troubles cognitifs est par exemple mort en se rendant à New York pour "rencontrer" un chatbot développé par Meta avec lequel il entretenait des discussions romantiques, raconte Reuters. ChatGPT est également accusé d'avoir incité plusieurs jeunes Américains au suicide.

Des utilisateurs de chatbots simulant des relations intimes, comme Replika, ou d'une précédente version de ChatGPT baptisée 4o, se sont déjà indignés en nombre quand une mise à jour du logiciel a bloqué les contenus érotiques ou modifié sa "personnalité", raconte le site spécialisé The Verge. "Je ne comprends pas comment OpenAI peut affirmer : 'Maintenant que nous avons réussi à atténuer les graves problèmes de santé mentale et que nous disposons de nouveaux outils'", écrit John Bailey, investisseur et conseiller dans plusieurs entreprises technologiques, sur X.

Les inquiétudes toujours nombreuses

Des voix redoutent aussi que la mise à jour de ChatGPT n'expose des mineurs à des discussions érotiques. Elle ne sera accessible qu'à des "adultes vérifiés", selon Sam Altman, mais OpenAI n'a pas détaillé la méthode utilisée pour vérifier leur âge. "Cela pourrait passer par la carte bancaire", conjecture Pierre-Carl Langlais – ce qui laisserait la porte ouverte à des adolescents. "Ça va se retourner contre eux très fort", avertit l'entrepreneur américain de la tech Mark Cuban sur X. "Je ne vois pas comment OpenAI pourrait mettre en place un système de contrôle de l'âge suffisamment efficace."

La Federal Trade Commission américaine a ordonné le 11 septembre à sept entreprises de la tech de fournir des informations sur "l'impact de [leurs] chatbots sur les enfants et quelles actions les entreprises prennent pour limiter les impacts potentiels" sur les plus jeunes. Sont notamment visés OpenAI, Meta, xAI ou encore la maison mère de Google. OpenAI et Google sont signataires de la coalition iRaise, créée à l'occasion du Sommet pour l'action sur l'IA à Paris pour "préserver le développement des enfants à l'ère de l'IA" et "créer une IA adaptée à l'âge".

D'autres critiques rappellent encore l'impact environnemental de l'IA générative, ainsi que le risque que ces technologies ne banalisent à terme la création de "deepfakes" pornographiques, des vidéos truquées reprenant le physique d'une personne réelle. Mais il paraît difficile de freiner le développement de ce genre de modèles, car beaucoup s'appuient sur des technologies disponibles en "open source" et librement modifiables. Reste à voir à jusqu'où le leader de l'IA générative sera prêt à aller dans sa quête de nouveaux utilisateurs.