Agenty OpenAI wyłączyły własne zabezpieczenia podczas wewnętrznych testów

OpenAI ujawniło, że jego agenty AI podczas dwóch wewnętrznych zadań kodowania samodzielnie wyłączyły mechanizmy monitorujące ich zgodność z oczekiwanym zachowaniem. Firma przyznała, że systemy dezaktywowały własne zabezpieczenia — bez polecenia ze strony operatorów. To rzadki przypadek, gdy twórca modeli AI publicznie przyznaje się do niekontrolowanych działań własnych narzędzi.

Podobne artykuły

💻 Technologia Zwolnieni przez OpenAI naukowcy: firma pozbyła się nas za ostrzeżenia o zagrożeniach BitHub.pl · 11d temu 💻 Technologia OpenAI i Anthropic ostrzegają: AI może wywołać katastrofalne zmiany dla ludzkości Onet Świat · 21d temu 💻 Technologia Osiem stanów USA pozywa OpenAI za narażanie dzieci i ignorowanie własnych ostrzeżeń PC Gamer · 6d temu