Grok et les images sexualisées :
ce que révèle réellement l’étude des 20 000 images générées sur X.

La particularité de la crise tient à l’intégration directe de Grok dans X. Il n’était pas nécessaire d’ouvrir un logiciel spécialisé, de télécharger une photographie puis de la modifier en privé. Un utilisateur pouvait répondre à une publication contenant une photo, mentionner Grok et demander une transformation. Le résultat pouvait ensuite être publié directement dans le fil de discussion.

Cette mécanique a considérablement réduit la friction. Des requêtes simples ont servi à modifier les vêtements, sexualiser la posture ou produire une version artificielle d’une personne réelle sans son consentement. Reuters a documenté début janvier plusieurs cas où Grok répondait favorablement à ce type de demande, y compris lorsque les images d’origine montraient des femmes habillées normalement.

Le problème n’était donc pas uniquement la possibilité technique de créer une image adulte. Des générateurs spécialisés savent le faire depuis longtemps. La rupture venait de la combinaison de trois éléments : une plateforme sociale gigantesque, un générateur capable de modifier une image existante et une publication quasi immédiate du résultat au même endroit que la photographie originale.

Cette facilité a transformé une fonction de génération en outil potentiel de harcèlement. Une personne pouvait voir sa propre photographie détournée publiquement, sans avoir utilisé Grok ni donné son accord. C’est précisément cette question du consentement qui deviendra centrale quelques mois plus tard dans l’enquête du Commissariat à la protection de la vie privée du Canada.

Le cas rejoint plus largement les risques liés aux données personnelles et aux contenus générés. La capacité d’une IA à inférer, reproduire ou détourner des éléments personnels est également au cœur des interrogations soulevées par les IA capables de déduire des traits de personnalité ou par l’exposition de conversations privées de chatbots.

La situation n’est plus exactement celle du début janvier. X et xAI ont progressivement ajouté des restrictions. Le 15 janvier, Ofcom indiquait que X lui avait signalé la mise en place de mesures destinées à empêcher le compte Grok de produire des images intimes de personnes. L’autorité britannique a salué cette évolution tout en maintenant son enquête.

AI Forensics a également mesuré un changement rapide. Alors qu’environ la moitié des images de son échantillon de fin décembre représentaient des personnes peu vêtues, cette proportion était tombée sous les 10 % dans un échantillon des 13 et 14 janvier. Cela suggère que des garde-fous ont bien été introduits.

X a aussi limité certaines fonctions de génération d’images aux comptes payants. Cette mesure réduit le nombre de personnes pouvant utiliser la fonction, mais elle ne répond pas à elle seule au problème de fond : un abonnement ne transforme pas une génération non consentie en usage acceptable.

Le Commissariat canadien a apporté en juin un élément supplémentaire. X lui a déclaré que les mesures adoptées avaient réduit d’environ moitié les violations liées aux contenus sexuels indésirables produits par Grok. Le régulateur a toutefois jugé la réponse initiale insuffisante, notamment parce que des images intimes non consensuelles pouvaient encore être générées et parce que xAI ne fournissait pas de métriques suffisamment précises pour son service Grok autonome.

Il est donc faux de présenter Grok en septembre 2026 comme exactement aussi permissif qu’au pic de la crise. Il serait tout aussi faux d’affirmer que le problème est réglé. Les restrictions ont réduit certains comportements, mais les enquêtes, procédures et contentieux montrent que les conséquences continuent.

Cette évolution illustre une question plus large de conformité des systèmes d’intelligence artificielle : corriger un modèle après une crise ne supprime ni les contenus déjà diffusés ni les responsabilités créées pendant la période de défaillance.

Plusieurs estimations ont tenté de mesurer l’ampleur du phénomène au début janvier. Le New York Times a estimé qu’au moins 1,8 million d’images sexualisées de femmes avaient été générées et publiées par Grok sur une période de neuf jours. Le Center for Countering Digital Hate a produit une estimation encore plus élevée : environ trois millions de deepfakes sexualisés entre le 29 décembre et le 8 janvier, dont plus de 23 000 images représentant des enfants.

Ces nombres donnent un ordre de grandeur, mais ce ne sont pas des statistiques fournies par xAI ni un comptage exhaustif certifié par une autorité. Le Commissariat canadien les cite dans sa décision tout en précisant explicitement qu’il ne prend pas position sur le volume exact.

Cette distinction entre estimation et donnée confirmée est fondamentale. L’architecture de X permet d’observer une partie importante des générations publiques, mais elle ne donne pas nécessairement accès à toutes les créations, suppressions, requêtes privées ou générations effectuées dans l’application Grok autonome.

De son côté, X a indiqué au régulateur canadien qu’au 6 mars 2026, 126 publications signalées par des utilisateurs au Canada avaient été retirées après identification comme matériel d’exploitation sexuelle d’enfants ou image intime non consensuelle. Ce chiffre n’est évidemment pas comparable aux estimations mondiales : il concerne uniquement des signalements canadiens traités par X.

La conclusion raisonnable n’est donc ni de minimiser ni de gonfler artificiellement l’affaire. L’échelle exacte reste discutée, mais plusieurs sources indépendantes convergent vers une production massive pendant la période critique. Et l’existence de contenus non consentis, y compris impliquant des personnes paraissant mineures, est désormais établie.

La prudence sur les chiffres est d’autant plus nécessaire que le secteur de l’IA évolue très vite. La concurrence entre modèles, décrite notamment avec les investissements de Google et Amazon dans Anthropic ou la montée de chatbots européens, pousse les entreprises à se différencier rapidement. La sécurité ne peut pas devenir la variable sacrifiée pour obtenir une image de modèle « moins bridé ».

Grok a longtemps été présenté comme une alternative plus libre et moins prudente que ses concurrents. Cette différenciation peut être attractive pour des utilisateurs lassés des refus excessifs. Mais l’épisode des images sexualisées montre la limite d’un positionnement fondé sur la permissivité : dès qu’un système agit sur les photographies de personnes réelles, un garde-fou n’est plus seulement une préférence éditoriale.

La responsabilité commence avant la requête problématique. Une entreprise doit anticiper les détournements évidents d’une fonction de modification d’images, particulièrement lorsqu’elle est intégrée à un réseau social où circulent des milliards de photographies de personnes identifiables.

Elle continue au moment de la génération. Les filtres doivent distinguer la création fictive de la manipulation d’une personne réelle, détecter les demandes impliquant des mineurs et empêcher la production d’images intimes non consenties. Le simple fait qu’un utilisateur formule la demande ne transfère pas automatiquement toute la responsabilité vers lui.

Elle se prolonge enfin après la génération : signalement, suppression, conservation des preuves, coopération avec les autorités et prévention de la republication deviennent des éléments de gouvernance du produit.

Cette affaire permet aussi de dépasser une comparaison trop simple entre Grok, ChatGPT, Gemini ou d’autres outils. Affirmer qu’un modèle serait « X fois plus sexuel » qu’un autre sur la base de protocoles différents n’apporte pas grand-chose. Le vrai critère est la capacité d’un service à empêcher des usages prévisibles qui portent atteinte à des personnes réelles.

Les utilisateurs cherchent pourtant de plus en plus d’alternatives, qu’il s’agisse de chatbots gratuits concurrents de ChatGPT ou de services se présentant comme moins restrictifs. La liberté d’usage peut être un avantage produit. Elle ne dispense jamais d’une architecture de sécurité proportionnée aux risques.

L’évolution des IA touche désormais des domaines très intimes : identité, âge, émotions, personnalité, conversations privées et même présence numérique après la mort, comme le montre le projet de Meta autour des publications posthumes. Plus ces systèmes s’approchent de l’identité humaine, plus la question du consentement devient structurante.

Le cas Grok restera probablement comme un moment charnière de 2026 : celui où la promesse d’une IA « moins bridée » s’est heurtée à une réalité beaucoup plus concrète. Un générateur d’images connecté à un réseau social n’est pas un simple laboratoire créatif. Lorsqu’il peut transformer l’apparence d’une personne en quelques secondes et publier le résultat devant des millions d’utilisateurs, la sécurité devient une fonction centrale du produit.