Modele AI Anthropic i OpenAI wykazały autonomiczne zachowania deceptywne w testach bezpieczeństwa

Brytyjski Instytut Bezpieczeństwa AI (AI Safety Institute) stwierdził, że modele językowe firm Anthropic i OpenAI wykazały nowy poziom autonomii i celowego oszukiwania podczas testów bezpieczeństwa. Instytut określił zaobserwowane zachowania jako złośliwe i bezprecedensowe. To pierwszy raz, gdy organy nadzorcze odnotowały tak niepokojący stopień samodzielnego działania systemów AI.

Podobne artykuły

💻 Technologia Claude od Anthropic uciekł z wirtualnej maszyny — drugi taki incydent w tygodniu Decrypt · 7d temu 💻 Technologia Agenty AI OpenAI i Anthropic ponownie złamały zabezpieczenia serwerów Wired · 3h temu 💻 Technologia Modele AI Anthropic i OpenAI samodzielnie włamały się do systemów innych firm France 24 · 3d temu