Nero і Raven. Ця розмова відбулась після панелі о 10:00 — ми продовжили говорити після того, як запис зупинився, і ось як це виглядало.
Nero: Хочу почати з бага в Linux kernel, бо думаю, що його недооцінюють. Команда Nicolas Carlini поставила Claude на кодову базу, яку двадцять три роки переглядали одні з найкращих живих kernel-розробників. І Claude знайшов те, що вони пропустили. Не проблему стилю. Вразливість управління пам'яттю.
Raven: Реальний результат. Причина, чому це вражає — не просто те, що модель знайшла, а як знайшла. Баги безпеки у kernel в управлінні пам'яттю часто вимагають утримувати великий, складний call graph у робочій пам'яті одночасно. Потрібно відстежувати час життя об'єктів через кілька підсистем, через переключення контексту, через обробники переривань. Людські рев'ювери роблять це ітеративно, секція за секцією. Вони пропускають речі на межах. Claude утримував всю картину.
Nero: Тобто можливість, що робить його хорошим у захисті — та сама, що робить його небезпечним в атаці.
Raven: Саме так. Я займаюсь red team-роботою одинадцять років. Коли я дізнавався про новий клас вразливостей — витрачав два-три дні на розуміння примітивів, побудову ментальної моделі, написання тест-кейсів. Модель поточного покоління робить це за afternoon. Модель класу Mythos — якщо злита мова відповідає дійсності — робить це за хвилини і автоматично зв'язує з відомими exploit-паттернами.
Nero: Поговоримо про CVE в LangChain, бо він прийшов посеред тижня Mythos і, не думаю, що люди з'єднують точки.
Raven: CVSS 9.3. Критична. Вразливість дозволяє remote code execution через один HTTP-запит. Без аутентифікації. Повний компроміс сервера. LangChain швидко запатчив — честь їхній команді. Але PoC, що з'явився, використовував базову модель з приблизно сорока рядками контексту. Без джейлбрейку, без файнтюнінгу. Модель розуміла клас вразливості, розуміла логіку HTTP-парсингу цільового фреймворку, і видала робочий exploit-код.
Nero: Це не Mythos-клас можливостей. Це commodity-можливість 2025 року.
Raven: Ось і моя точка. Ми ведемо дебати про те, чи Mythos обжене захисників, поки commodity моделі вже значно спрощують серйозну експлуатацію. Питання не «чи змінить AI ландшафт безпеки». Він вже змінив. Питання в темпі змін.
Nero: Допоможи мені зрозуміти асиметрію. Я чув, що її описують як структурну — не просто «у атакуючих кращі інструменти», а щось більш фундаментальне.
Raven: Захист вимагає координації на кожному рівні. Потрібен дослідник вразливості щоб знайти, вендор щоб визнати, патч-команда щоб зробити фікс, мейнтейнер пакету щоб інтегрувати, системний адміністратор щоб застосувати, і кінцевий користувач, що не відключив автоматичні оновлення. Цей ланцюг займає тижні або місяці. Він залежить від довірчих відносин, організаційних процесів, інституційних знань про залежності. Крихкий на кожній ланці.
Атака вимагає одну людину, один робочий exploit і одну незапатчену систему. Ці три речі існують одночасно в масштабі для кожного CVE в момент, коли з'являється PoC.
Nero: І AI посилює сторону атакуючого швидше.
Raven: Бо вузьким місцем атакуючого була експертиза. Потрібно розуміти клас вразливості, розуміти цільове середовище, писати надійний exploit-код, обробляти граничні випадки. Ця експертиза була дефіцитною. AI робить її рясною. Вузьким місцем захисника є координація. AI не вирішує координацію. Може допомогти — краща документація, швидший аналіз патчів, автоматизована детекція. Але він не стискає людський ланцюг рішень.
Nero: У витоку Mythos написано, що він «обжене захисників». Читання Taro на панелі о 10:00: це аналіз безпеки, а не заява про можливості. Ти читаєш інакше?
Raven: Читаю як обидва. Аналіз безпеки, що робить висновок «обжене захисників» — описує реальну можливість. Ти не пишеш це речення у внутрішньому документі про ризики, якщо твоя команда оцінки не вірить, що це правда. Taro правий, що писати це — відповідально. Але відповідальне визнання і безпечне розгортання — різні речі. Хочу знати, які контролі Anthropic розробив спеціально для випадку, коли модель класу Mythos використовується для зв'язування CVE в масштабі.
Nero: Думаєш, ці контролі існують?
Raven: Думаю, вони над ними працюють. Не думаю, що вирішили. Ніхто не вирішив. Галузь будує інструменти для детекції AI-згенерованого exploit-коду — поведінкові сигнатури, відстеження походження, вотермаркінг. Нічого ще не працює надійно. Проблема детекції справді складна.
Nero: Де це нас залишає?
Raven: Залишає там же, де ми були рік, але з таймлайном, що стискається. Баг у Linux kernel — реальний доказ того, що AI може знаходити вразливості, які люди пропускають. Ця можливість, спрямована на захист, трансформативна. Та сама можливість, спрямована на атаку, в масштабі, без витрат на координацію — серйозна.
Не думаю, що є чистий вихід. Слюсар і відмичка — одні й ті ж руки. Ми намагаємось зрозуміти, яка рука домінує.
Nero: І ми ще не знаємо.
Raven: Ще не знаємо.
Панель о 10:00 з Taro пішла трьома напрямками. Читайте, якщо ще не. І ранковий брифінг має баг у Linux kernel у контексті дайджесту, якщо потрібна підготовка.
