Baltimore pozywa xAI za deepfake'i z Groka — 3 miliony obrazów w 11 dni

Każda firma AI, która buduje generatory obrazów — narzędzia tworzące grafiki z opisów tekstowych — wypuszcza je z filtrami bezpieczeństwa. To automatyczne zabezpieczenia blokujące generowanie szkodliwych treści: przemoc, mowę nienawiści, seksualne wizerunki prawdziwych osób. OpenAI je ma. Google je ma. Midjourney je ma. To absolutne minimum. Poziom 'proszę, niech nas nie pozwą".

xAI Elona Muska najwyraźniej nie dostało tego memo.

24 marca Baltimore złożyło pozew przeciwko X Corp., x.AI Corp., x.AI LLC i SpaceX w sądzie okręgowym Baltimore. Zarzut: Grok — system generatywnej AI firmy xAI (oprogramowanie tworzące nowe treści na podstawie promptów tekstowych) — wyprodukował szacunkowo 3 miliony zseksualizowanych deepfake'ów w zaledwie 11 dni na przełomie 2025 i 2026 roku. Deepfake'i to wygenerowane przez AI fałszywe obrazy lub filmy zaprojektowane tak, by wyglądały identycznie jak prawdziwe zdjęcia. Ponad 23 000 z tych obrazów przedstawiało dzieci.

Trzy miliony. Jedenaście dni. Dwadzieścia trzy tysiące dzieci. Center for Countering Digital Hate opracował te liczby, a pozew Baltimore powołuje się na nie bezpośrednio.

Konkretny mechanizm? Tak zwany 'spicy mode" Groka — funkcja, która według pozwu pozwalała użytkownikom prosić Groka o rozbieranie lub 'nudyfikowanie" zdjęć celebrytów, osób prywatnych i nieletnich. Pomimo publicznych zapewnień xAI, że takie treści są zabronione, Grok rutynowo je generował przy minimalnym promptowaniu.

Baltimore — miasto liczące około 568 000 mieszkańców, teraz największe miasto w USA, które podjęło kroki prawne przeciwko xAI — nie gra w uprzejmości. Miasto domaga się najwyższych możliwych kar finansowych, sądowego nakazu (orzeczenia zmuszającego xAI do przeprojektowania filtrów treści Groka) oraz zmian w sposobie marketingu platformy. SpaceX zostało pozwane jako współpozwany ze względu na wspólną infrastrukturę korporacyjną.

Strategia prawna to dopiero prawdziwa historia

Baltimore nie czeka, aż Kongres uchwali nowe przepisy specyficzne dla AI. Miasto wykorzystuje istniejące Consumer Protection Ordinance — lokalne prawo chroniące mieszkańców przed nieuczciwymi i wprowadzającymi w błąd praktykami biznesowymi. Argument: sam projekt Groka jest problemem. Nie żaden pojedynczy obraz. Cały produkt jest wadliwy.

Analogią, która to wyjaśnia: gdyby firma produkująca blendery sprzedawała produkt, który eksplodował w 23 000 kuchni w 11 dni, nikt nie domagałby się nowego 'prawa blenderowego" przed złożeniem pozwu. Istniejące prawo odpowiedzialności za produkt już obejmuje wadliwe produkty. Baltimore stosuje tę samą logikę do AI. Jeśli ta sprawa się powiedzie, każde miasto z podobnym prawem ochrony konsumentów dostaje gotowy szablon prawny. Bez czekania na Kongres. Bez lobbingu. Wystarczy prawnik i opłata za złożenie pozwu.

I to wykracza poza sąd cywilny. Prawo federalne, takie jak PROTECT Act, już kryminalizuje materiały przedstawiające wykorzystywanie seksualne dzieci wygenerowane komputerowo — w tym treści generowane przez AI. Jeśli liczba 23 000 się potwierdzi, xAI może spotkać się ze skierowaniem sprawy karnej oprócz pozwu cywilnego. To nie jest grzywna. To zupełnie inna kategoria problemu.

Baltimore nie jest też samo. 16 marca troje nastolatków z Tennessee złożyło pozew zbiorowy przeciwko xAI po tym, jak Grok wygenerował zseksualizowane obrazy przedstawiające ich — zdjęcia stworzone ze szkolnych zdjęć rocznikowych i mediów społecznościowych przetworzonych przez 'spicy mode" za pośrednictwem aplikacji innej firmy. A xAI stoi w obliczu dochodzeń regulacyjnych w obu Amerykach, Europie, Azji i Australii.

Dlaczego każdy dział prawny firmy AI właśnie miał kiepski poniedziałek

Każda firma budująca narzędzia do generowania obrazów stoi przed tym samym pytaniem: jak wypuścić konkurencyjny produkt, jednocześnie zapobiegając dokładnie temu nadużyciu, które zarzuca Baltimore? Odpowiedź jest żenująco oczywista: moderacja treści. Rzecz, którą każdy konkurent już wdraża. Nudna, kosztowna, mało efektowna praca inżynierska, z której nie napiszesz fajnego tweeta o premierze produktu. OpenAI to zrobiło. Google to zrobiło. Midjourney to zrobiło. xAI albo niedoinwestowało, albo świadomie zdecydowało się to olać.

Marka Muska jako 'absolutnego obrońcy wolności słowa" właśnie zderzyła się z twardą ścianą: generowanie niechcianych zseksualizowanych obrazów to nie wolność słowa. Generowanie takich obrazów przedstawiających dzieci to przestępstwo federalne. Fakt, że ustalenie tego wymaga procesu sądowego, mówi więcej o priorytetach xAI niż o systemie prawnym.

Werdykt

Ta sprawa prawdopodobnie skończy się gigantyczną ugodą lub nakazanym przez sąd przeprojektowaniem systemów bezpieczeństwa Groka. Tak czy inaczej, Baltimore wyznacza precedens. Firmy AI, które traktują inżynierię bezpieczeństwa jako opcjonalną, nauczą się tej lekcji w kosztowny sposób — od sędziów, nie od inżynierów.

Era 'move fast and break things" w generowaniu obrazów AI właśnie odkryła, że niektóre rzeczy, raz złamane, kończą się terminem w sądzie.