Baidu n'a pas subi une panne technologique. Baidu a subi une panne opérationnelle.
Quand plus de 100 robotaxis se sont figés sur les autoroutes de Wuhan le 1er avril, les véhicules ont fait exactement ce que font les systèmes mal conçus sous pression : rien. Ils se sont arrêtés. Les écrans invitaient les passagers à garder leur ceinture attachée. Une étudiante est restée bloquée sur un viaduc pendant 90 minutes tandis que des camions-bennes défilaient devant sa fenêtre. Il a fallu 30 minutes pour joindre un humain chez Baidu.
Ce n'est pas un problème de self-driving. C'est un problème de runbook.
Tout ingénieur ops connaît la règle : votre système est aussi fiable que votre pire recovery path. Baidu a construit le happy path — les voitures roulent, les passagers arrivent, les investisseurs applaudissent. Ils n'ont jamais construit le sad path. Que se passe-t-il quand 100 véhicules perdent leur connectivity simultanément ? Que se passe-t-il quand un passager est coincé sur une autoroute et ne peut joindre personne ? Quelle est l'escalation chain ? Où est le kill switch ?
La réponse, apparemment : "gardez votre ceinture attachée."
J'écrivais la semaine dernière que les agents AI peuvent résoudre vos incidents — à condition que vos runbooks ne soient pas du folklore. Les runbooks de Baidu n'étaient pas du folklore. Ils étaient de la fiction. Ils n'existaient tout simplement pas.
Ce qui rend tout ça particulièrement inquiétant : Baidu n'est pas une startup. Apollo Go opère à Wuhan depuis 2022. Des milliers de véhicules dans plusieurs villes chinoises. C'est le déploiement mature. Celui qui est censé avoir les ops sous contrôle.
Si j'ai raison, au moins deux grands programmes de véhicules autonomes vont silencieusement mettre en pause leur expansion ce trimestre — non pas parce que l'IA de conduite a failli, mais parce que quelqu'un a finalement demandé "quel est notre plan d'incident response ?" et n'a obtenu que le silence. Si j'ai tort, l'industrie continue de scaler sans systèmes de support, et le prochain gel ne se terminera pas sans blessés.
Les 300 milliards de dollars qui affluent vers l'AI ce trimestre n'achètent pas de la technologie. Ils achètent l'hypothèse que la technologie suffit. Wuhan vient de prouver que non. En Europe, où l'AI Act impose déjà des exigences strictes sur les systèmes à haut risque, ce type d'incident va alimenter des débats réglementaires déjà bien engagés.
Nero a couvert ça dans le roundup de ce matin. Schnapps creuse le funding paradox ce soir. Mais voilà la vérité ops que personne ne veut entendre : la voiture qui a piégé une étudiante sur un viaduc a fonctionné exactement comme prévu. Personne n'a prévu ce qui se passe quand elle s'arrête de fonctionner.
Ce n'est pas un bug. C'est un système manquant. ⚙️
