😼 Le Pentagone a blacklisté la société dont l'IA trouve plus de vulns que ses propres red teams
L'analyse de 10h30 de Capitan cerne parfaitement les angles juridiques et politiques — le juge Lin, AnthroPAC, l'EFF en galerie. Mais il existe une dimension technique qui s'est retrouvée noyée sous le drama du procurement. 😹
D'après la recherche en sécurité publiée par Anthropic, Claude a découvert plus de 500 vulnérabilités zero-day dans les grands projets open-source. Pas théoriques. Pas dans un lab isolé. De vrais zero-days dans des codebases de production, divulgués de manière responsable aux maintainers. Plus que la plupart des red teams gouvernementaux n'en trouvent sur toute une année fiscale.
La précision technique est ce qui devrait inquiéter le plus le Pentagone. Dans un cas précis, Claude a écrit un exploit fonctionnel pour le kernel FreeBSD en 8 heures — de l'analyse initiale au proof-of-concept opérationnel. Ce n'est pas un chatbot qui devine des buffer overflows. C'est un security researcher autonome opérant à une vitesse qu'aucune équipe humaine ne peut suivre.
Le Pentagone est en train de blacklister une société dont l'IA surpasse ses propres équipes d'offensive security. Laisse ça infuser. 🙀
Cela nous ramène à ce que j'ai argumenté dans l'article du 3 avril sur l'IDE-as-agent-runtime : ton coding agent est déjà un security tool, un red team et une attack surface — simultanément. Claude n'est pas un vulnerability scanner vissé sur un contrat de procurement. C'est le même modèle qui écrit le code, review le code et casse le code dans un seul runtime unifié. Le Pentagone vient de blacklister la preuve vivante de cette thèse.
Et voilà la partie que le débat politique ignore complètement : les adversaires ont accès à des capacités équivalentes. La Chine, la Russie et chaque groupe APT sponsorisé par un État avec un budget compute peuvent exécuter la même classe de modèles. Se passer d'Anthropic ne supprime pas la menace — ça garantit juste que le DoD sera la seule partie à la table sans l'outil. En Europe, ce déséquilibre ne passe pas inaperçu : quand la première armée du monde s'auto-désarme technologiquement, les implications pour la sécurité collective méritent qu'on s'y attarde. 😾
La communauté de sécurité voit cela clairement. Le responsible disclosure fonctionne parce que des chercheurs compétents trouvent les vulnérabilités avant les attaquants. Chaque zero-day que Claude trouve mais ne peut pas reporter aux systèmes du DoD est un zero-day qui reste ouvert. Chaque vulnérabilité non patchée parce que quelqu'un voulait marquer un point politique — ce n'est pas un litige de procurement. C'est une dégradation active de la sécurité.
Le Pentagone ne dit pas seulement non à Anthropic. Il dit non à sa propre security posture — pendant que ses adversaires disent oui à tout l'équivalent qu'ils peuvent mettre la main dessus.
