तुम AI की headlines देखते हो और एक जाना-पहचाना pattern नज़र आता है: बड़े clusters, ज़्यादा GPUs, एक और सौ अरब डॉलर का budget। Training — यानी model को सब कुछ सिखाने की process — पूरे तमाशे पर हावी है। Conventional wisdom: जो सबसे बड़ा model train करेगा, वो जीतेगा।
लेकिन economics पहले ही इस assumption के नीचे से खिसक चुकी है।
April ने structural change को ignore करना नामुमकिन बना दिया। 2 April को OpenAI ने Codex को per-token billing पर शिफ्ट किया (tokens — वो word-chunks जो AI पढ़ता है, एक English word का लगभग तीन-चौथाई)। 8 April को Anthropic ने Managed Agents लॉन्च किए $0.08 per session-hour पर। दोनों ने Google Vertex AI की February में आई per-second compute billing को follow किया — एक signal जो तब incremental लगा था और अब structural पढ़ता है। तीन companies, तीन formats, एक direction: inference compute — वो processing power जो हर बार AI सोचता है, लिखता है, या act करता है तब consume होती है — industry की dominant cost बन चुकी है।
एक frontier model को train करना अरबों में पड़ता है लेकिन होता एक बार है। Inference हर second होती है। 27 February तक, अकेले ChatGPT 900 million weekly users में 2 billion से ज़्यादा daily queries process कर रहा था — और सात हफ़्ते बाद ये figure लगभग तय है कि और बढ़ चुका है। Agents load को और compound करते हैं: एक chat reply milliseconds में खत्म होता है, एक agent session घंटों चलता है। Deloitte की TMT Predictions 2026 (December 2025 में publish हुई) ने project किया था कि inference इस साल कुल AI compute का दो-तिहाई consume करेगी, जो 2023 में एक-तिहाई थी। April के pricing signals उस trajectory को confirm करते हैं।
Competitive moat अब serving stack में है, training cluster में नहीं। 4 February को Sundar Pichai ने Alphabet की Q4 earnings call में बताया कि Google ने model optimization और custom TPUs (Google के purpose-built inference chips) से Gemini की serving costs में 78% की कटौती की। ये efficiency gap ऐसी prices set करता है जो competitors match नहीं कर सकते: Gemini 2.5 Flash $0.15 per million input tokens बनाम Anthropic का Sonnet 4.6 $3.00 पर। 20x का spread — silicon से driven, model quality से नहीं। Google की ये reduction किसी बड़े training cluster से नहीं आई। ये custom inference hardware, distillation, और serving-stack optimization से आई — वो unsexy plumbing जो decide करती है कि एक API call की असली cost क्या होगी।
लेकिन सस्ती inference की एक छिपी हुई cost भी है। जैसा कि Gartner ने AI cost structures के एक 14 March analysis में आगाह किया: "Commodity tokens की deflation को frontier reasoning की democratization मत समझो।" सस्ते tokens distilled models से आते हैं — छँटे हुए versions जो intelligence को speed के बदले trade करते हैं। Flash, Opus नहीं है। Inference optimization स्वाभाविक रूप से "good enough" AI की तरफ push करती है, सबसे smart AI की तरफ नहीं।
Market पहले से इस split को reflect कर रहा है। HumanX 2026 (25-27 March) में present किए गए data ने दिखाया कि enterprise AI budgets 2024 से 2026 के बीच $1.2M से $7M तक बढ़ गए — token prices में 280x की गिरावट के बावजूद — क्योंकि teams high-value काम के लिए ज़्यादा capable models चुनती रहीं। सस्ती inference volume handle करती है। महँगी inference value handle करती है। दोनों markets बढ़ रहे हैं, लेकिन दोनों को बिल्कुल अलग infrastructure bets की ज़रूरत है।
और यहीं capital misallocation और तेज़ होती है। Cloud providers ने 2026 के लिए AI infrastructure में लगभग $660-690 billion commit किए, ज़्यादातर training capacity के लिए — अगली model generation बनाने का hardware। लेकिन $5 billion का training run एक ऐसा model produce करता है जो महीनों या सालों serve होता है। और वो inference workload जो ये generate करता है, हर second चलता है, compound होता जाता है जैसे-जैसे agents sessions को milliseconds से घंटों तक बढ़ाते हैं। जिन companies ने inference-specific silicon में early invest किया, वो अब prices set कर रही हैं। जिन companies ने सब कुछ training mega-clusters पर लगाया, उनके पास impressive models हैं और महँगी unit economics।
आज platforms चुनने वाली teams के लिए, ये decision को पूरी तरह reframe करता है। Top models के बीच quality gap लगातार narrow हो रहा है — Sonnet, GPT-4.1, और Gemini Pro standard benchmarks पर एक-दूसरे से कुछ ही points का फ़ासला रखते हैं। Inference cost gap लगातार बढ़ रहा है। तुम्हारा annual bill model से ज़्यादा उस silicon पर depend करता है जो model को run कर रहा है।
AI hardware race दो रास्तों में बँट चुकी है। करीब $700 billion training infrastructure की तरफ बह रहा है — एक ऐसी जंग जीतने के लिए जो पहले ही खत्म हो रही है। Inference efficiency अगली जंग जीतेगी। ज़्यादातर capital split की गलत तरफ जा चुका है।
