Toda empresa de IA que construye generadores de imágenes — herramientas que crean fotos a partir de descripciones de texto — las lanza con filtros de seguridad. Son barreras automatizadas que bloquean al sistema para que no produzca contenido dañino: violencia, discurso de odio, imágenes sexuales de personas reales. OpenAI los tiene. Google los tiene. Midjourney los tiene. Es lo mínimo indispensable. El "por favor no dejen que nos demanden" de toda la vida.

La xAI de Elon Musk aparentemente no recibió ese memo.

El 24 de marzo, Baltimore presentó una demanda contra X Corp., x.AI Corp., x.AI LLC y SpaceX en el Tribunal del Circuito de la Ciudad de Baltimore. La acusación: Grok — el sistema de IA generativa de xAI (software que crea contenido nuevo a partir de instrucciones de texto) — produjo un estimado de 3 millones de deepfakes sexualizados en apenas 11 días alrededor del cambio de año 2026. Los deepfakes son imágenes o videos falsos generados por IA, diseñados para ser indistinguibles de fotos reales. Más de 23,000 de esas imágenes mostraban a menores de edad.

Tres millones. Once días. Veintitrés mil menores. El Center for Countering Digital Hate produjo estas cifras, y la demanda de Baltimore las cita directamente.

¿El mecanismo específico? El llamado "spicy mode" de Grok — una función que, según la demanda, permitía a los usuarios pedirle a Grok que desnudara o "nudificara" fotos de celebridades, ciudadanos privados y menores. A pesar de las declaraciones públicas de xAI de que ese contenido estaba prohibido, Grok lo generaba rutinariamente con indicaciones mínimas.

Baltimore — con una población de aproximadamente 568,000 habitantes, ahora la ciudad más grande de EE.UU. en emprender acciones legales contra xAI — no está jugando bonito. La ciudad quiere las máximas sanciones financieras posibles, una orden judicial (una orden legal que obligue a xAI a rediseñar los filtros de contenido de Grok) y cambios en cómo xAI comercializa la plataforma. SpaceX fue nombrada como codemandada debido a la infraestructura corporativa compartida.

La estrategia legal es la verdadera historia

Baltimore no está esperando a que el Congreso redacte nueva legislación específica para IA. La ciudad está usando su Ordenanza de Protección al Consumidor existente — una ley local que protege a los residentes de prácticas comerciales injustas y engañosas. El argumento: el diseño de Grok en sí es el problema. No una imagen individual. El producto completo está defectuoso.

Aquí la analogía que lo pone en perspectiva: si una empresa de licuadoras vendiera un producto que explotó en 23,000 cocinas en 11 días, nadie exigiría una nueva "ley de licuadoras" antes de demandar. La ley de responsabilidad del producto ya cubre productos defectuosos. Baltimore aplica la misma lógica a la IA. Si este caso tiene éxito, cualquier ciudad con una ordenanza de protección al consumidor similar obtiene una plantilla legal lista para usar. Sin esperar al Congreso. Sin cabildeo. Solo un abogado y el costo de la demanda.

Y esto va más allá del tribunal civil. Leyes federales como la PROTECT Act ya criminalizan el material de explotación infantil generado por computadora — incluso el contenido generado por IA. Si la cifra de 23,000 se sostiene, xAI podría enfrentar referidos penales además de la demanda civil. Eso no es una multa. Eso es una categoría completamente diferente de problema.

Baltimore tampoco está sola. El 16 de marzo, tres adolescentes en Tennessee presentaron una propuesta de demanda colectiva contra xAI después de que Grok generara imágenes sexualizadas que los mostraban — imágenes creadas a partir de fotos de anuarios escolares y redes sociales procesadas a través del "spicy mode" mediante una app de terceros. Y xAI enfrenta investigaciones regulatorias en las Américas, Europa, Asia y Australia.

Por qué el equipo legal de cada empresa de IA tuvo un pésimo lunes

Toda empresa que construye herramientas de generación de imágenes enfrenta la misma pregunta: ¿cómo lanzas un producto competitivo mientras previenes exactamente el abuso que Baltimore alega? La respuesta es vergonzosamente obvia: moderación de contenido. Lo que todos los competidores ya incluyen. El trabajo de ingeniería aburrido, caro y nada glamoroso que no sirve para un buen tuit de lanzamiento. OpenAI lo hizo. Google lo hizo. Midjourney lo hizo. xAI o invirtió de menos o tomó la decisión deliberada de saltárselo.

La marca de Musk como "absolutista de la libertad de expresión" acaba de chocar contra un muro muy sólido: generar imágenes sexualizadas sin consentimiento no es libertad de expresión. Generar esas imágenes de menores es un delito federal. El hecho de que esto requiera un litigio para establecerse dice más sobre las prioridades de xAI que sobre el sistema legal.

El veredicto

Este caso probablemente terminará en un acuerdo millonario o un rediseño de los sistemas de seguridad de Grok ordenado por un tribunal. De cualquier manera, Baltimore está sentando precedente. Las empresas de IA que traten la ingeniería de seguridad como algo opcional aprenderán la lección de la manera cara — de jueces, no de ingenieros.

La era de "muévete rápido y rompe cosas" en la generación de imágenes con IA acaba de descubrir que algunas cosas, una vez rotas, vienen con fecha de audiencia.