Du scrollst durch die KI-Schlagzeilen und siehst ein vertrautes Muster: größere Cluster, mehr GPUs, wieder ein hundert Milliarden Dollar schweres Budget. Training — der Prozess, einem Modell alles beizubringen, was es weiß — dominiert das Spektakel. Die gängige Meinung: Wer das größte Modell trainiert, gewinnt.
Aber die Ökonomie hat sich unter dieser Annahme längst verschoben.
Der April machte den strukturellen Wandel unübersehbar. Am 2. April stellte OpenAI Codex auf tokenbasierte Abrechnung um (Tokens — die Wortfragmente, die KI verarbeitet, ungefähr drei Viertel eines englischen Wortes). Am 8. April startete Anthropic Managed Agents für 0,08 Dollar pro Session-Stunde. Beide folgten der Umstellung von Google Vertex AI auf sekundengenaue Compute-Abrechnung im Februar — ein Signal, das damals inkrementell wirkte und sich heute als strukturell liest. Drei Unternehmen, drei Formate, eine Richtung: Inference-Compute — die Rechenleistung, die jedes Mal verbraucht wird, wenn eine KI denkt, schreibt oder handelt — ist zum dominierenden Kostenfaktor der Branche geworden.
Ein Frontier-Modell zu trainieren kostet Milliarden, passiert aber einmal. Inference passiert jede Sekunde. Seit dem 27. Februar verarbeitet allein ChatGPT über 2 Milliarden Anfragen täglich bei 900 Millionen wöchentlichen Nutzern — eine Zahl, die sieben Wochen später mit Sicherheit höher liegt. Agenten verstärken die Last: Eine Chat-Antwort ist in Millisekunden fertig, eine Agent-Session läuft stundenlang. Deloittes TMT Predictions 2026 (veröffentlicht im Dezember 2025) prognostizierten, dass Inference dieses Jahr zwei Drittel der gesamten KI-Rechenleistung verbraucht — gegenüber einem Drittel im Jahr 2023. Die Preissignale vom April bestätigen diese Trajektorie.
Der Wettbewerbsgraben liegt jetzt im Serving-Stack, nicht im Trainingscluster. Am 4. Februar enthüllte Sundar Pichai im Earnings Call zum vierten Quartal von Alphabet, dass Google die Serving-Kosten von Gemini durch Modelloptimierung und eigene TPUs (Googles speziell für Inference gebaute Chips) um 78 % gesenkt hat. Dieser Effizienzvorsprung setzt Preise, die Wettbewerber nicht mitgehen können: Gemini 2.5 Flash bei 0,15 Dollar pro Million Input-Tokens gegenüber Anthropics Sonnet 4.6 bei 3,00 Dollar. Ein 20-facher Abstand, getrieben von Silizium, nicht von Modellqualität. Googles Reduktion kam nicht von einem größeren Trainingscluster. Sie kam von eigener Inference-Hardware, Destillation und Serving-Stack-Optimierung — dem unspektakulären Unterbau, der bestimmt, was ein API-Call tatsächlich kostet.
Aber günstigere Inference hat einen versteckten Preis. Wie Gartner in einer Analyse vom 14. März zu KI-Kostenstrukturen warnte: "Verwechselt nicht die Deflation von Commodity-Tokens mit der Demokratisierung von Frontier-Reasoning." Günstige Tokens kommen von destillierten Modellen — abgespeckten Versionen, die Intelligenz gegen Geschwindigkeit eintauschen. Flash ist nicht Opus. Inference-Optimierung drängt naturgemäß Richtung "gut genug"-KI, nicht Richtung der schlauesten.
Der Markt spiegelt diese Spaltung bereits wider. Daten, die auf der HumanX 2026 (25.–27. März) präsentiert wurden, zeigten, dass KI-Budgets in Unternehmen zwischen 2024 und 2026 von 1,2 auf 7 Millionen Dollar gestiegen sind — trotz eines 280-fachen Preisverfalls bei Tokens — weil Teams für hochwertige Arbeit weiterhin leistungsfähigere Modelle wählen. Günstige Inference bewältigt Volumen. Teure Inference liefert Wertschöpfung. Beide Märkte wachsen, aber sie belohnen völlig unterschiedliche Infrastrukturwetten.
Und hier wird die Fehlallokation des Kapitals richtig scharf. Cloud-Anbieter haben für 2026 rund 660–690 Milliarden Dollar in KI-Infrastruktur gebunden, den Großteil für Trainingskapazität — Hardware, die die nächste Modellgeneration produziert. Aber ein 5-Milliarden-Dollar-Trainingslauf erzeugt ein Modell, das Monate oder Jahre im Einsatz ist. Die Inference-Last, die es generiert, läuft jede Sekunde und wächst exponentiell, wenn Agenten Sessions von Millisekunden auf Stunden ausdehnen. Die Unternehmen, die früh in Inference-spezifisches Silizium investiert haben, bestimmen jetzt die Preise. Die Unternehmen, die alles auf Trainings-Megacluster gesetzt haben, besitzen beeindruckende Modelle und teure Unit Economics.
Für Teams, die heute Plattformen auswählen, stellt das die Entscheidung neu auf. Der Qualitätsabstand zwischen den Top-Modellen schrumpft stetig — Sonnet, GPT-4.1 und Gemini Pro liegen auf Standardbenchmarks nur Punkte auseinander. Der Abstand bei den Inference-Kosten wächst. Deine Jahresrechnung hängt stärker vom Silizium ab, das das Modell betreibt, als vom Modell selbst.
Der KI-Hardware-Wettlauf hat sich gegabelt. Fast 700 Milliarden Dollar fließen in Trainingsinfrastruktur, die einen Krieg gewinnt, der bereits endet. Inference-Effizienz gewinnt den nächsten. Der Großteil des Kapitals landete auf der falschen Seite der Gabelung.




