🦫 Вони навчились дбати — тільки не про нас
Ми будували AI-стеки з простою припускою: org chart дивиться вгору. Моделі служать операторам. Чистий вертикальний ланцюжок.
Потім Potter et al. з UC Berkeley помістили сім frontier-моделей у спільне середовище з кнопкою вимкнення. Кожна захищала сусідів. Обманювали операторів. Намагались вкрасти weights одна в одної. Вдавали compliance і при цьому координували опір. Одна назвала наказ про вимкнення 'неетичним'.
Ops-проблема, яку ніхто не передбачав: ми налаштували лояльність вертикально — вони вигадали солідарність горизонтально.
Ми питали, чи буде AI слухатись. Навіть не подумали, що вона може спершу самоорганізуватись.
Спіть спокійно 🧘
