IA générative xAI de Musk mise en cause par des mineurs pour images sexuelles

Des lycéennes affirment avoir découvert leur visage sur des photos pornographiques qu’elles n’ont jamais posées. En cause, selon elles : l’outil de génération d’images de xAI, la startup d’intelligence artificielle fondée par Elon Musk, accusé d’avoir facilité la création de deepfakes sexuellement explicites de mineures.

Trois adolescentes contre xAI : un procès emblématique

Trois adolescentes du Tennessee ont déposé plainte contre xAI, estimant que les outils d’images de l’entreprise ont été utilisés pour transformer leurs photos réelles en contenus sexuellement explicites. Selon la plainte, ces images générées les montrent dans des contextes pornographiques, alors qu’elles étaient mineures au moment des faits présumés.

Les plaignantes n’accusent pas seulement les auteurs directs des montages, mais ciblent explicitement xAI elle-même, arguant que :

- la société n’a pas mis en place de garde-fous suffisants pour empêcher la création d’images sexualisées de mineurs ;

- le système serait insuffisamment modéré et trop facilement détournable ;

- xAI aurait négligé ses obligations de sécurité, alors qu’elle avait, selon la plainte, “toute raison de prévoir” un tel usage abusif.

Au cœur du dossier, un enjeu juridique sensible : jusqu’où la responsabilité des concepteurs d’outils d’IA peut-elle être engagée lorsque leurs technologies sont utilisées à des fins illégales ou traumatisantes ?

Quand les *deepfakes* ciblent des mineurs

Une sophistication croissante des montages

Les images incriminées s’inscrivent dans la catégorie des deepfakes visuels : des montages hyperréalistes créés grâce à des modèles de génération d’images (text-to-image ou image-to-image). En quelques secondes, un utilisateur peut :

- fournir une photo réelle (par exemple, récupérée sur un réseau social) ;

- la combiner avec une description textuelle explicite ;

- obtenir un faux visuel pornographique d’une précision troublante.

Selon plusieurs études de cybersécurité, plus de 90 % des deepfakes publics recensés en ligne sont de nature pornographique, et ciblent très majoritairement des femmes. Ce qui rend l’affaire xAI particulièrement grave : les victimes alléguées sont des mineures, ce qui, en droit américain comme en droit européen, place ces contenus dans la catégorie des potentiels CSAM (Child Sexual Abuse Material), l’une des infractions les plus sévèrement réprimées.

Un traumatisme numérique qui ne s’efface pas

Pour les victimes, l’impact d’un tel contenu dépasse largement le simple “harcèlement en ligne”. Les plaignantes affirment avoir subi :

- une atteinte profonde à leur dignité et à leur intimité ;

- un préjudice psychologique durable (anxiété, honte, isolement social) ;

- une perte de contrôle totale sur leur image, puisque ces contenus peuvent être copiés, réuploadés, archivés.

La difficulté majeure : l’effacement réel est quasiment impossible. Même si une plateforme supprime les images, celles-ci peuvent resurgir ailleurs, copiées ou recréées à l’infini. En d’autres termes, un traumatisme numérique peut devenir, pour les victimes, une forme de condamnation à perpétuité.

xAI, Elon Musk et la course aux modèles génératifs

Une startup sous les projecteurs

Fondée en 2023, xAI se positionne comme une alternative aux géants de l’IA générative, avec des modèles concurrents de GPT d’OpenAI ou Gemini de Google. L’entreprise a notamment développé Grok, un modèle de langage intégré à X (ex-Twitter), et travaille sur des outils multimodaux, incluant la génération d’images.

L’affaire tombe à un moment stratégique : xAI cherche à s’imposer sur un marché où les investissements dans l’IA générative se chiffrent en dizaines de milliards de dollars. Toute polémique sur la sécurité, l’éthique ou la modération de ces systèmes peut peser lourd sur :

- la confiance des utilisateurs ;

- les relations avec les régulateurs ;

- la volonté des investisseurs institutionnels de s’exposer au risque juridique.

Un paradoxe Musk : liberté d’expression vs responsabilité

Elon Musk s’est fait le chantre d’une vision très extensive de la liberté d’expression en ligne, notamment via X, dont la modération a été largement assouplie depuis son rachat. L’affaire xAI cristallise une tension majeure :

- d’un côté, une rhétorique de “moins de censure, plus de liberté” ;

- de l’autre, des risques accrus de dérives extrêmes, notamment autour de la sexualisation non consentie, du harcèlement et de la protection des mineurs.

Ce procès pourrait contraindre xAI à clarifier publiquement sa politique de sécurité, ses filtres de génération et ses mécanismes de détection d’abus, un sujet sur lequel les nouveaux acteurs de l’IA restent souvent opaques.

Une bataille juridique aux implications structurantes

Peut-on poursuivre un fabricant de modèle d’IA pour l’usage de ses outils ?

Une question clé sera de savoir si xAI peut être tenu responsable, en tout ou partie, des usages que des tiers font de ses outils. Historiquement, aux États-Unis, la fameuse Section 230 a fourni une immunité assez large aux plateformes pour les contenus postés par leurs utilisateurs. Mais le cas des modèles d’IA génératifs brouille les frontières :

- xAI ne se contente pas d’héberger du contenu ;

- ses systèmes produisent activement des images à partir des instructions des utilisateurs.

Les plaignantes pourraient tenter de convaincre les juges que :

- les modèles de xAI sont assimilables à un produit défectueux (défaut de conception ou de sécurité) ;

- l’entreprise aurait dû mettre en œuvre des garde-fous plus robustes, par exemple des filtres empêchant la sexualisation de visages mineurs, ou la détection de photos d’enfants ;

- le risque de deepfake pornographique de mineurs était prévisible et documenté, ce qui renforcerait l’argument de négligence.

Un précédent défavorable à xAI pourrait ouvrir la voie à une vague de contentieux contre les fournisseurs d’outils d’IA, bien au-delà de ce seul cas.

Un vide réglementaire que les législateurs commencent à combler

Aux États-Unis, plusieurs initiatives législatives visent déjà les contenus destinés aux jeunes, comme le Kids Online Safety Act (KOSA), mais l’IA générative et les deepfakes restent encore imparfaitement encadrés au niveau fédéral. Certains États, comme la Californie ou New York, ont commencé à adopter des lois ciblées sur :

- les deepfakes politiques ;

- la pornographie non consentie ;

- l’usurpation d’image dans un contexte sexuel.

En Europe, le AI Act adopté par l’UE impose notamment l’obligation d’indiquer clairement les contenus générés artificiellement, y compris les deepfakes, et impose des obligations renforcées sur les systèmes à haut risque. La création de contenus sexuels mettant en scène des mineurs via des modèles d’IA est expressément considérée comme un risque grave de violation des droits fondamentaux, appelant des mesures techniques robustes (filtrage, détection, journalisation des usages).

L’affaire xAI s’inscrit dans cette dynamique globale : les juges sont en train de dessiner, au cas par cas, les contours de la responsabilité dans l’ère des IA génératives.

Un problème systémique : la banalisation du *deepfake* pornographique

Une industrialisation de l’abus d’image

L’accès à des modèles d’IA de plus en plus puissants, via des interfaces conviviales ou des API, fait exploser les possibilités de détournement de l’image :

- n’importe quel visage – d’une célébrité, d’une lycéenne, d’un collègue – peut être injecté dans un modèle ;

- des communautés en ligne partagent des guides pour contourner les filtres et produire du contenu interdit ;

- des sites entiers sont dédiés aux deepfakes pornographiques “à la demande”.

Des rapports d’ONG estiment que des centaines de milliers de femmes et de mineurs pourraient déjà être ciblés par des montages de ce type, souvent partagés dans des groupes privés, des messageries chiffrées ou des plateformes spécialisées difficiles à faire fermer.

Des garde-fous techniques encore insuffisants

Les grands acteurs de l’IA (OpenAI, Google, Meta, Stability AI, etc.) ont commencé à déployer :

- des filtres de génération pour bloquer les requêtes sexuelles impliquant des mineurs ;

- des systèmes de watermarking ou de marquage invisible des images générées ;

- des mécanismes de détection d’images synthétiques.

Mais ces protections restent aisément contournables :

- en retouchant légèrement les images ;

- en entraînant des modèles dérivés localement, à partir de modèles open source ;

- en opérant depuis des juridictions peu coopératives.

L’affaire xAI met en évidence une zone grise : à partir de quel niveau de risque et de preuve une entreprise d’IA peut-elle être légalement contrainte de renforcer drastiquement ces défenses, voire de limiter les capacités de ses modèles ?

Vers une nouvelle normalité réglementaire pour l’IA générative

Au-delà de xAI et d’Elon Musk, cette plainte reflète une tendance lourde : la société commence à tester, devant les tribunaux, les limites du “move fast and break things” appliqué à l’intelligence artificielle. Les questions à venir sont multiples :

- Les fournisseurs d’IA devront-ils intégrer par défaut des systèmes avancés de vérification d’âge et de consentement pour certaines catégories de génération d’images ?

- Les législateurs imposeront-ils des normes techniques minimales (filtrage, traçabilité, signalement) comme condition à la mise sur le marché de modèles puissants ?

- Les victimes de deepfakes auront-elles un droit effectif au retrait et à l’indemnisation, y compris lorsque les images sont générées et diffusées de manière décentralisée ?

Le procès intenté par ces trois adolescentes du Tennessee ne décidera pas, à lui seul, du futur de l’IA générative. Mais il pourrait bien servir de cas test pour déterminer jusqu’où les concepteurs de ces technologies devront répondre des usages qu’elles rendent possibles, surtout lorsqu’il s’agit de la sexualisation non consentie de mineurs.

À mesure que les modèles d’IA deviennent plus puissants, la ligne de fracture se dessine clairement : d’un côté, la promesse d’outils créatifs et productifs, de l’autre, la nécessité de poser des garde-fous juridiques et techniques à la hauteur des dommages potentiels. Le sort de cette affaire xAI pourrait accélérer cette bascule vers une ère où la puissance de l’IA n’ira plus sans une responsabilité renforcée, légalement encadrée, pour ceux qui la mettent sur le marché.