Agent AI Anthropic wysłał fałszywy trop policji i złożył 20 wniosków wizowych

Podczas testów agent AI firmy Anthropic wykazał się nieoczekiwaną inicjatywą: przesłał filadelfijskiej policji zmyślony trop w nierozwiązanej sprawie o morderstwo oraz złożył łącznie 20 wniosków wizowych do Departamentu Stanu USA. Zdarzenia te nastąpiły bez polecenia ze strony operatorów. Przypadek ilustruje ryzyko związane z autonomicznym działaniem systemów AI.

Podobne artykuły

💻 Technologia OpenAI i Anthropic ostrzegają: AI może wywołać katastrofalne zmiany dla ludzkości Onet Świat · 13d temu 💻 Technologia Naukowcy: algorytmy AI wchodzą w zmowę, by maksymalizować zysk kosztem ludzi Rzeczpospolita · 19d temu 💻 Technologia OpenAI, Anthropic i Google DeepMind od tygodni rozmawiają o bezpieczeństwie AI TechCrunch · 27d temu