Toutes les boîtes d'IA qui développent des générateurs d'images — des outils qui créent des visuels à partir de descriptions textuelles — les livrent avec des filtres de sécurité. Ce sont des garde-fous automatisés qui empêchent le système de produire du contenu nuisible : violence, discours haineux, images sexuelles de personnes réelles. OpenAI en a. Google en a. Midjourney en a. C'est le strict minimum. Le ' s'il vous plaît, faites qu'on ne soit pas poursuivis en justice ' de base.

Apparemment, le xAI d'Elon Musk n'a pas reçu le mémo.

Le 24 mars, Baltimore a déposé une plainte contre X Corp., x.AI Corp., x.AI LLC et SpaceX devant le tribunal de circuit de la ville de Baltimore. L'accusation : Grok — le système d'IA générative de xAI (un logiciel qui crée du contenu à partir de prompts textuels) — aurait produit environ 3 millions de deepfakes à caractère sexuel en seulement 11 jours, autour du passage à 2026. Les deepfakes sont des images ou vidéos factices générées par IA, conçues pour être indiscernables de vraies photos. Plus de 23 000 de ces images représentaient des enfants.

Trois millions. Onze jours. Vingt-trois mille enfants. Le Center for Countering Digital Hate a produit ces chiffres, et la plainte de Baltimore les cite directement.

Le mécanisme précis ? Le fameux ' spicy mode ' de Grok — une fonctionnalité qui, selon la plainte, permettait aux utilisateurs de demander à Grok de déshabiller ou de ' nudifier ' des photos de célébrités, de particuliers et de mineurs. Malgré les déclarations publiques de xAI affirmant que ce type de contenu était interdit, Grok le générait systématiquement avec un minimum de prompting.

Baltimore — environ 568 000 habitants, désormais la plus grande ville américaine à engager des poursuites contre xAI — ne fait pas dans la dentelle. La ville réclame les sanctions financières maximales, une injonction judiciaire (une ordonnance obligeant xAI à refondre les filtres de contenu de Grok), et des modifications dans la manière dont xAI commercialise sa plateforme. SpaceX a été nommé comme co-défendeur en raison d'infrastructures partagées.

La stratégie juridique, c'est la vraie histoire

Baltimore n'attend pas que le Congrès rédige une nouvelle législation spécifique à l'IA. La ville utilise son propre Consumer Protection Ordinance — une loi locale qui protège les résidents contre les pratiques commerciales déloyales et trompeuses. L'argument : c'est la conception même de Grok qui pose problème. Pas une image isolée. Le produit entier est défectueux.

Voici l'analogie qui rend les choses limpides : si un fabricant de blenders vendait un appareil qui explosait dans 23 000 cuisines en 11 jours, personne n'exigerait une nouvelle ' loi sur les blenders ' avant de porter plainte. Le droit existant de la responsabilité des produits couvre déjà les produits défectueux. Baltimore applique exactement la même logique à l'IA. Si cette affaire aboutit, n'importe quelle ville disposant d'une ordonnance similaire de protection des consommateurs aura un modèle juridique prêt à l'emploi. Pas besoin d'attendre le Congrès. Pas de lobbying. Juste un avocat et des frais de dossier.

Et ça va au-delà du civil. Des lois fédérales comme le PROTECT Act criminalisent déjà les contenus d'exploitation sexuelle d'enfants générés par ordinateur — y compris ceux générés par IA. Si le chiffre de 23 000 tient la route, xAI pourrait faire face à des poursuites pénales en plus du procès civil. On ne parle plus d'une amende. On parle d'une tout autre catégorie de problèmes.

Baltimore n'est pas seule, d'ailleurs. Le 16 mars, trois adolescents du Tennessee ont déposé un recours collectif contre xAI après que Grok a généré des images sexualisées les représentant — des images créées à partir de photos d'annuaire scolaire et de réseaux sociaux, passées par le ' spicy mode ' via une appli tierce. Et xAI fait face à des enquêtes réglementaires sur tous les continents : Amériques, Europe, Asie et Australie.

Pourquoi tous les services juridiques de l'IA viennent de passer un sale lundi

Toutes les entreprises qui développent des outils de génération d'images font face à la même question : comment livrer un produit compétitif tout en empêchant exactement les abus que Baltimore dénonce ? La réponse est d'une banalité confondante : la modération de contenu. Le truc que tous les concurrents intègrent déjà. Le travail d'ingénierie ennuyeux, coûteux, sans glamour, qui ne fait pas un bon tweet de lancement produit. OpenAI l'a fait. Google l'a fait. Midjourney l'a fait. xAI a soit sous-investi, soit fait le choix délibéré de s'en passer.

La marque ' absolutiste de la liberté d'expression ' de Musk vient de percuter un mur bien concret : générer des images sexualisées non consenties, ce n'est pas de la liberté d'expression. Générer de telles images de mineurs, c'est un crime fédéral. Le fait qu'il faille un procès pour l'établir en dit plus long sur les priorités de xAI que sur le système judiciaire.

Le verdict

Cette affaire se terminera probablement par un règlement massif ou une refonte imposée par la justice des systèmes de sécurité de Grok. Dans les deux cas, Baltimore crée un précédent. Les entreprises d'IA qui traitent l'ingénierie de la sécurité comme optionnelle apprendront la leçon à prix fort — par des juges, pas par des ingénieurs.

L'ère du ' aller vite et casser des trucs ' dans la génération d'images par IA vient de découvrir que certaines choses, une fois cassées, sont assorties d'une convocation au tribunal.