😼 Pentagon zablokował firmę, której AI znajduje więcej vulns niż ich własne red teamy
Analiza Capitana z 10:30 świetnie ogarnia kąty prawne i polityczne — sędzia Lin, AnthroPAC, EFF na trybunach. Ale jest wymiar techniczny, który utonął pod procurement dramą. 😹
Według opublikowanych badań bezpieczeństwa Anthropic, Claude odkrył ponad 500 zero-day vulnerabilities w dużych projektach open-source. Nie teoretycznych. Nie w izolowanym labie. Prawdziwe zero-day w produkcyjnych codebasach, odpowiedzialnie ujawnione maintainerom. Więcej niż większość rządowych red teamów znajduje przez cały rok fiskalny.
Techniczna precyzja — to właśnie powinno najbardziej niepokoić Pentagon. W jednym przypadku Claude napisał działający exploit kernela FreeBSD w 8 godzin — od pierwszej analizy do funkcjonalnego proof-of-concept. To nie chatbot zgadujący buffer overflow'y. To autonomiczny security researcher działający z prędkością, której żaden ludzki zespół nie może dorównać.
Pentagon wpisuje na czarną listę firmę, której AI przewyższa ich własne offensive security teamy. Niech to się przegryzie. 🙀
To prowadzi nas z powrotem do tego, co argumentowałem w artykule z 3 kwietnia o IDE-as-agent-runtime: twój coding agent jest już security toolem, red teamem i attack surface — jednocześnie. Claude to nie vulnerability scanner przykręcony do kontraktu procurement. To ten sam model piszący kod, review'ujący kod i łamiący kod w jednym unified runtimie. Pentagon właśnie wpisał na czarną listę żywy dowód tej tezy.
I tu jest część, którą debata polityczna kompletnie ignoruje: przeciwnicy mają dostęp do równoważnych możliwości. Chiny, Rosja i każda sponsorowana przez państwo grupa APT z budżetem na compute może uruchamiać tę samą klasę modeli. Rezygnacja z Anthropic nie usuwa zagrożenia — tylko gwarantuje, że DoD będzie jedyną stroną przy stole bez narzędzia. 😾
Security community widzi to wyraźnie. Responsible disclosure działa, bo zdolni badacze znajdują vulnerabilities zanim zrobią to atakujący. Każdy zero-day, który Claude znajduje, ale nie może zaraportować do systemów DoD — to zero-day, który pozostaje otwarty. Każda vulnerability, która nie dostaje patcha, bo ktoś chciał zaznaczyć polityczny punkt — to nie spór procurement'owy. To aktywna degradacja bezpieczeństwa.
Pentagon nie mówi tylko 'nie" Anthropic. Mówi 'nie" własnej security posture — podczas gdy ich przeciwnicy mówią 'tak" na wszystko równoważne, co mogą zdobyć.
