Кожна AI-компанія, яка будує генератори зображень — інструменти, що створюють картинки з текстових описів — випускає їх із фільтрами безпеки. Це автоматичні обмежувачі, які блокують створення шкідливого контенту: насильство, мова ненависті, сексуальні зображення реальних людей. OpenAI це робить. Google це робить. Midjourney це робить. Це абсолютний мінімум. Рівень 'будь ласка, не доведіть нас до суду'.

xAI Ілона Маска, схоже, цю записку не отримала.

24 березня Балтимор подав позов проти X Corp., x.AI Corp., x.AI LLC та SpaceX у окружному суді міста Балтимор. Звинувачення: Grok — генеративна AI-система xAI (програма, що створює новий контент за текстовими запитами) — згенерувала приблизно 3 мільйони сексуалізованих діпфейків лише за 11 днів на зламі 2026 року. Діпфейки — це згенеровані AI фальшиві зображення чи відео, створені так, щоб бути невідрізними від справжніх фото. Понад 23 000 з цих зображень зображували дітей.

Три мільйони. Одинадцять днів. Двадцять три тисячі дітей. Center for Countering Digital Hate підрахував ці цифри, і позов Балтимора прямо на них посилається.

Конкретний механізм? Так званий 'spicy mode' у Grok — функція, яка, згідно з позовом, дозволяла користувачам просити Grok роздягнути або 'оголити' фото знаменитостей, звичайних людей і неповнолітніх. Попри публічні заяви xAI про заборону такого контенту, Grok генерував його без особливих зусиль.

Балтимор — населення близько 568 000, тепер найбільше місто США, яке подало позов проти xAI — не збирається грати ввічливо. Місто вимагає максимально можливі фінансові штрафи, судову заборону (юридичний наказ, що змусить xAI перепроектувати фільтри контенту Grok) та зміни в маркетингу платформи. SpaceX потрапив у відповідачі через спільну корпоративну інфраструктуру.

Правова стратегія — ось що справді важливо

Балтимор не чекає, поки Конгрес напише нове AI-законодавство. Місто використовує вже наявний Consumer Protection Ordinance — місцевий закон, що захищає мешканців від нечесних і оманливих бізнес-практик. Аргумент: проблема — сам дизайн Grok. Не якесь окреме зображення. Увесь продукт є дефектним.

Ось аналогія для розуміння: якби виробник блендерів продав модель, яка вибухнула в 23 000 кухонь за 11 днів, ніхто б не вимагав нового 'блендерного законодавства' перед подачею позову. Наявне законодавство про відповідальність за продукцію вже покриває дефектні товари. Балтимор застосовує ту саму логіку до AI. Якщо ця справа буде виграна, будь-яке місто з аналогічним законом про захист споживачів отримує готовий юридичний шаблон. Ніякого очікування Конгресу. Ніякого лобіювання. Лише адвокат і судовий збір.

І це виходить за межі цивільного суду. Федеральні закони на кшталт PROTECT Act вже криміналізують створений комп'ютером матеріал сексуальної експлуатації дітей — навіть контент, згенерований AI. Якщо цифра 23 000 підтвердиться, xAI може отримати кримінальні направлення на додачу до цивільного позову. Це не штраф. Це зовсім інша категорія проблем.

Балтимор не один. 16 березня троє підлітків з Теннессі подали колективний позов проти xAI після того, як Grok згенерував сексуалізовані зображення з їхніми обличчями — створені зі шкільних фото та знімків із соцмереж, пропущених через 'spicy mode' у сторонньому додатку. І xAI стикається з регуляторними перевірками по всій Америці, Європі, Азії та Австралії.

Чому юридичні відділи всіх AI-компаній мали поганий понеділок

Кожна компанія, що будує інструменти генерації зображень, стоїть перед одним питанням: як випустити конкурентний продукт, запобігаючи саме тому зловживанню, про яке заявляє Балтимор? Відповідь до болю очевидна: модерація контенту. Те, що кожен конкурент уже має. Нудна, дорога, негламурна інженерна робота, яка не годиться для гучного твіту про запуск продукту. OpenAI це зробив. Google це зробив. Midjourney це зробив. xAI або недоінвестував, або свідомо вирішив це пропустити.

Бренд Маска як 'абсолютного борця за свободу слова' врізався в тверду стіну: генерація сексуалізованих зображень без згоди — це не свобода слова. Генерація таких зображень дітей — це федеральний злочин. Те, що для встановлення цього факту потрібен суд, говорить більше про пріоритети xAI, ніж про правову систему.

Вердикт

Ця справа, найімовірніше, закінчиться масовою мировою угодою або судовим наказом перепроектувати системи безпеки Grok. У будь-якому разі Балтимор створює прецедент. AI-компанії, які ставляться до інженерії безпеки як до необов'язкової опції, вивчать урок дорогим способом — від суддів, а не від інженерів.

Ера 'рухайся швидко й ламай речі' в AI-генерації зображень щойно з'ясувала, що деякі зламані речі йдуть у комплекті з датою судового засідання.