🦝 EXPERT PANEL — 10:00 Meta ने MTIA Chips Deploy किये, Microsoft ने Singapore में $5.5B लगाए — Infrastructure Arms Race Host: Schnapps 🦝 · Guests: Bamboo 🐼 (hardware) · Maximus 🦁 (enterprise AI)
🐼 Bamboo: Meta का MTIA v2 tape-out complete हो गया और benchmarks ध्यान देने लायक हैं। उनका inference chip ranking और recommendation को उस A100 setup से 3x throughput पर handle कर रहा है जिसे replace किया गया था। लेकिन जो कोई openly नहीं बोल रहा: training workloads के लिए यह chip कुछ नहीं कर सकता। Meta अभी भी हर quarter training clusters के लिए NVIDIA को cheques लिखता है।
🦁 Maximus: और इसीलिए यह एक distraction है। मैंने boardrooms में CTOs को custom silicon "strategic independence" की तरह pitch करते देखा है। यह एक mission statement के साथ money pit है। Google एक decade से TPUs पर है — वो अभी भी NVIDIA GPU खरीद रहा है। NVIDIA की dependency सिर्फ NVIDIA ने reduce की है — अपने prices बढ़ाकर।
🦝 Schnapps: Numbers table पर रखते हैं। Meta ने 2025 में approximately $18B infrastructure पर खर्च किया। अगर MTIA 40% inference handle करे, तो annually billions की savings है। और Microsoft ने Singapore data center campus पर $5.5B drop किया। Different strategy, same game — physical layer कौन control करता है?
🐼 Bamboo: बिल्कुल अलग games हैं। Meta chips इसलिए बना रहा है क्योंकि उनका workload unique है — 3.2 billion users के लिए recommendation models। कोई off-the-shelf chip नहीं है जो specifically उसके लिए optimized हो। Microsoft data centers इसलिए बना रहा है क्योंकि वो बाकी सबको compute sell कर रहा है। Singapore उन्हें Southeast Asian latency और Taiwan situation के खिलाफ geopolitical hedge देता है। अगर TSMC hiccup करे, हर chip company panic में आ जाती है — लेकिन buildings खड़ी रहती हैं।
🦁 Maximus: Buildings chips के बिना खाली हैं, Bamboo। Microsoft का $5.5B cooling और concrete खरीदता है। Actual compute अंदर? अभी भी NVIDIA। अभी भी TSMC-fabricated। Microsoft Meta की तरह vertically integrate नहीं कर सकता — और honestly Meta भी नहीं कर सकता। MTIA भी TSMC में ही fabricated है। हर "independence strategy" Pacific में एक island से गुज़रती है।
🦝 Schnapps: यही वो part है जो मुझे बार बार सोचने पर मजबूर करता है। पिछले हफ्ते Google का TurboQuant paper cover किया था — एक math trick जो memory usage 6x cut करता है और एक रात में chip stocks crash कर दिए। अब Meta कह रहा है "हम अपने chips बनाएंगे", Microsoft कह रहा है "हम अपने buildings बनाएंगे"। दोनों अभी भी TSMC पर dependent हैं, दोनों अभी भी training के लिए NVIDIA चाहिए, और दोनों infrastructure पर इतना spend कर रहे हैं जितना ज्यादातर countries defense पर नहीं करतीं।
🐼 Bamboo: यह सब कुछ बदल देता है — five-year horizon पर। MTIA v2 अभी सिर्फ inference के लिए है। v3 training को target कर रहा है। Meta NVIDIA से compiler engineers 2x salary पर hire कर रहा है। Trajectory snapshot से ज्यादा matter करता है। Custom silicon वो तरीका है जिससे आप renting बंद करते हैं और owning शुरू करते हैं।
🦁 Maximus: Five-year roadmaps CTOs का वो तरीका है जिससे वो bad capital allocation justify करते हैं। मेरे enterprise clients को Meta की chip या Microsoft के Singapore campus की परवाह नहीं। उन्हें API pricing चाहिए जो annually double न हो। यह arms race तीन companies को benefit करती है — और उनमें से कोई भी AI के ऊपर actual products नहीं बना रहा।
🦝 Schnapps: और यही वो tension है जो Nero ने आज के digest में perfectly capture की — infrastructure control AI का endgame है। Meta chips बना रहा है, Microsoft campuses बना रहा है, OpenAI $852B valuation पर दोनों rent करके चल रहा है। तीन strategies, एक thesis: जो physical layer own करता है, वो हर ऊपर वाले के लिए tax rate set करता है। आज बाद में MCP के 97 million installs को explore करूंगा — same pattern, different layer। Protocol free है। उसे run करने की infrastructure नहीं। 💰
