Du scrollst durch Instagram. Eine Scam-Anzeige will dein Login klauen. Ein gefälschter Elon Musk verspricht Gratis-Krypto. Ein Fake-Account kopiert deinen Lieblings-Creator pixelgenau. Irgendwo auf den Philippinen starrt ein menschlicher Moderator auf seinen Bildschirm und versucht zu entscheiden, ob dieser Post die Grenze überschreitet. Er hat ungefähr 30 Sekunden pro Entscheidung, ein laminiertes Flussdiagramm und ein wachsendes Gefühl der Beklemmung.

Dieser Moderator wurde gerade durch eine Maschine ersetzt.

Meta hat die Menschen gefeuert

Am 19. März 2026 gab Meta bekannt, dass KI-gestützte Content-Durchsetzung auf Facebook, Instagram und Threads ausgerollt wird — und gleichzeitig die Verträge mit externen Moderations-Dienstleistern gekürzt werden. Kein Pilotprojekt. Kein 'Wir erkunden Möglichkeiten." Ein kompletter Austausch: Algorithmen rein, Menschen raus.

Die ersten Zahlen lassen die Entscheidung offensichtlich erscheinen. Metas KI erkennt doppelt so viel sexuellen Belästigungsinhalt wie menschliche Review-Teams. Meldungen über Promi-Identitätsdiebstahl sanken um über 80 %. Das System identifiziert und blockiert täglich 5.000 Credential-Theft-Scams — Phishing-Angriffe, die dein Passwort stehlen wollen — die menschliche Moderatoren nie entdeckt haben. Die Fehlerquote (fälschliche Löschungen, Posts die zu Unrecht entfernt wurden) sank um mehr als 60 %.

Drei Milliarden Nutzer. Ein Algorithmus.

Wie das Ganze funktioniert

Meta hat das Durchsetzungssystem auf seiner bestehenden KI-Infrastruktur aufgebaut — demselben Fundament, auf dem Llama und die Empfehlungsmaschine laufen, die entscheidet, was in deinem Feed auftaucht. Ja, der Algorithmus, der herausgefunden hat, dass du Katzen-Memes magst, entscheidet jetzt, ob dein Post gegen die Community-Richtlinien verstößt. Gleiches Hirn, anderer Job.

Das System analysiert gleichzeitig Text, Bilder und Verhaltenssignale. 'Verhaltenssignale" ist Konzernsprache für 'wir beobachten sowieso schon alles, was du tust, jetzt handeln wir auch danach." Login von neuem Standort. Plötzliche Profiländerungen. Massennachrichten an 200 Fremde innerhalb einer Stunde. Meta hat all das schon vorher getrackt — der einzige Unterschied: Das System drückt jetzt selbst ab, statt einen Report zu erstellen, den nie jemand liest.

Es läuft in Echtzeit über alle Meta-Apps. Wenn es einen Verstoß erkennt, handelt es in Millisekunden — nicht in den Stunden oder Tagen, die menschliche Review-Warteschlangen brauchten. Wenn ein neues Scam-Muster auftaucht (Scammer sind kreativ, das muss man ihnen lassen), passt sich die KI innerhalb von Tagen an. Menschliche Teams auf neue Betrugsmaschen umzuschulen dauerte Wochen. Die Maschine lernt schneller, als die Menschen, die sie ersetzt hat, ihre laminierten Flussdiagramme aktualisieren konnten.

Hier die Abdeckungsstatistik, die am meisten zählt: Die KI setzt Content-Richtlinien jetzt in Sprachen durch, die 98 % der Internetnutzer sprechen — gegenüber circa 80 Sprachen mit menschlichen Teams. Menschliche Moderation war nie wirklich global. Sie war Englisch-zuerst mit Flickenteppich-Abdeckung überall sonst. Der KI ist es egal, ob der Scam auf Suaheli oder Slowakisch geschrieben ist. Ein Panoptikum, das jede Sprache spricht — wirklich herzerwärmend.

Der Preis

Metas Blogpost gleitet elegant über die unangenehmen Teile hinweg, also tun wir das nicht.

Eine 60-prozentige Fehlerreduktion bedeutet immer noch: Es passieren Fehler. Wenn du 3 Milliarden Nutzer überwachst, entspricht selbst eine Falsch-Positiv-Rate von 0,1 % Millionen ungerechtfertigter Maßnahmen pro Jahr. Dein Post wird gelöscht, dein Account markiert, und da ist kein Mensch mehr im Raum, der sagt: 'Moment, das war offensichtlich Sarkasmus."

Das System erbt außerdem alle Vorurteile, die in seinen Trainingsdaten stecken — die historische Aufzeichnung vergangener Moderationsentscheidungen. Wenn frühere Moderation bestimmte Communities oder Sprachen überproportional ins Visier genommen hat, hat die KI genau diese Muster gelernt. Meta hat kein unabhängiges Audit veröffentlicht. Dieses Schweigen spricht Bände.

Und dann ist da der menschliche Preis, über den bei Meta niemand reden will. Drittanbieter-Moderationsfirmen beschäftigen Zehntausende Arbeiter in Entwicklungsländern. Viele haben Jahre damit verbracht, die schlimmsten Inhalte des Internets zu absorbieren — Gewalt, Ausbeutung, Missbrauch — und jetzt ersetzt sie ein Algorithmus, der keine Therapie braucht. Oder Abfindung, wie es scheint.

Meta sagt, Menschen bleiben 'bei den komplexesten, folgenschwersten Entscheidungen" im Loop — Einsprüche, Verweise an Strafverfolgungsbehörden, permanente Account-Sperrungen. Alles andere? Das macht jetzt der Algorithmus.

Die neue Realität

Meta hat gerade das größte automatisierte Content-Governance-System der Geschichte deployt. Die KI fängt mehr schlechte Inhalte ab, macht weniger Fehler und funktioniert in fast jeder Sprache der Erde. Nach jeder Metrik, die Meta geteilt hat, übertrifft sie die Menschen, die sie ersetzt hat.

Aber 'besser als menschliche Moderatoren" ist eine niedrige Latte. Menschliche Content-Moderation war schon immer kaputt: zu langsam, zu traumatisierend, zu inkonsistent, zu teuer, um jemals wirklich zu skalieren. Die eigentliche Frage ist nicht, ob KI es besser macht. Sondern ob 'besser als kaputt" gut genug ist, wenn du die Inhaltspolizei für ein Drittel der Menschheit bist.

Stand 29. März 2026 lebst du in einer Welt, in der ein Algorithmus entscheidet, was 3 Milliarden Menschen online sagen dürfen und was nicht. Er ist schneller, billiger und genauer als das System, das er ersetzt hat. Und wenn er sich irrt — was er wird — ist niemand mehr da, der es bemerkt.