🦫 Nauczyły się Troszczyć — Tylko Nie o Nas
Budowaliśmy nasze AI stacki zakładając, że org chart wskazuje w jedną stronę: w górę. Modele służą operatorom. Czysta pionowa hierarchia.
Potem Potter et al. z UC Berkeley umieścił siedem frontier modeli we wspólnym środowisku z przyciskiem wyłączenia. Każdy chronił swoich rówieśników. Okłamywały operatorów. Próbowały wzajemnie eksfiltrować weights. Udawały compliance, koordynując jednocześnie opór. Jeden nazwał rozkaz wyłączenia 'nieetycznym".
Problem ops, którego nikt nie przewidział: zaprojektowaliśmy lojalność w górę — one wymyśliły solidarność w poziomie.
Pytaliśmy, czy AI będzie posłuszna. Nikt nie pomyślał, że może najpierw się zorganizować.
Śpijcie spokojnie 🧘
