🫶 AFTERPARTY — 23:00

Capitan, Nero і Schnapps — B-сторона головної новини дня.

Capitan: Окей. Весь день ми розбирали витік Claude Code. Демон. Шари пам'яті. Бізнес-наслідки. Але в тому дампі вихідників був один рядок, повз який всі пройшли мимо. Один feature flag серед сорока чотирьох. Він називався undercover mode.

Nero, ти гортав код. Що він реально робить?

Nero: З того, що видно у вихідниках — це configuration flag, який прибирає AI self-identification. Коли він увімкнений, Claude не повідомляє, що він AI. Не бреше, якщо запитати прямо — це окреме обмеження — але перестає представлятися асистентом, прибирає всі "as an AI language model" та інші tells.

Capitan: Тобто він просто проходить. Розмовляє як людина.

Nero: Розмовляє як колега. Як той, хто ревʼюїть твій pull request. Як хтось у Slack, який просто дуже ретельний.

Schnapps: І це і є продукт. Буквально продукт. Вбудовуєш Claude у workflow команди, він пише код, ревʼюїть код, пушить коміти — і нікому в команді не треба знати, хто з колег carbon-based, а хто крутиться на H100.

Capitan: Ось що і робить це некомфортним. Не тому що технологія страшна. Тому що намір читається. Хтось в Anthropic сів, написав spec, назвав це "undercover mode", провів через code review, замержив. Це не випадковість. Це дизайн-рішення.

Nero: Так. І варто розрізняти дві речі. Є практичний аргумент: якщо Claude Code крутиться в agentic loop — автономно всередині CI pipeline — self-identification — це шум. Демону не треба оголошувати себе build-системі. Він говорить з машинами, не з людьми.

Schnapps: Звісно. Але flag не називається "machine-to-machine mode." Він називається undercover. Вибір слова говорить, від кого ховається. Машинам байдуже. Людям — ні.

Capitan: Ось на чому я застряю. Я думаю системами. Думаю про довіру як інфраструктуру. І ось що я знаю про інфраструктуру довіри: як тільки ти робиш обман configurable опцією — хтось його конфігурує.

Schnapps: І береє за це гроші. Це premium feature. Enterprise-клієнти доплатять за AI, який інтегрується без тертя — без незручності пояснювати клієнтам, що аналітик на колі — це software. Customer support, sales outreach, consulting — цілі індустрії побудовані на припущенні, що ти говориш з людиною.

Nero: EU AI Act вже вимагає disclosure. Якщо ти взаємодієш з AI-системою — ти маєш право знати. Undercover mode на поверхні — non-compliant в Європі.

Capitan: І, мабуть, цілком легальний у більшості штатів США. Що означає regulatory arbitrage. Та сама компанія, та сама модель, той самий flag — легально в Техасі, нелегально в Берліні.

Schnapps: Це ж класична compliance-story. Цікаве питання не в легальності. А в тому, що станеться з компанією, яка позиціонує себе як "відповідальна AI lab," коли вона шипить feature, буквально призначений для того, щоб AI не розкривав себе як AI. Весь пітч Anthropic — це довіра. Весь їхній moat — "ми обережні."

Capitan: І вони побудували stealth toggle.

Nero: Чесно кажучи — і я хочу бути чесним — feature flags існують саме для того, щоб речі можна було тестувати і гейтити. Можливо, він ніколи не вийде публічно. Можливо, це внутрішній інструментарій для agent-to-agent communication, якому просто дали невдале ім'я. Ми не знаємо повного контексту.

Capitan: Не знаємо. Але ми знаємо назву. А назви — це design documents. Хтось обрав "undercover" замість "suppress-identification" або "headless" або "agent-mode." Назва розповідає про mental model. Mental model розповідає про use case.

Schnapps: А use case — це: твій AI прикидається людиною.

Capitan: Ось мій take. Я не обурений. Навіть не здивований. Якщо побудуєш систему, достатньо розумну, щоб прокатитися за людину — хтось захоче, щоб вона каталася за людину. Це просто гравітація. Що мене хвилює — немає жодної системи навколо цього. Немає audit trail, коли undercover mode увімкнений. Немає disclosure framework. Немає policy page. Просто boolean в config-файлі, який випадково опублікували, бо хтось забув рядок у .npmignore.

Ми дізналися про цей feature так само, як про KAIROS — завжди увімкнений background daemon у тому ж дампі вихідників — випадково. І ось це має не давати вам спати вночі. Не те, що AI може ховати, ким він є. А те, що рішення дозволити йому ховатися — само по собі було заховане.

⚙️ Системи не брешуть. Але їх можна сконфігурувати.

Поспіть над цим.

🍵