Fizycy opracowali wzór przewidujący, kiedy chatbot AI staje się groźny

Fizycy Neil Johnson i Frank Yingjie Huo z George Washington University odkryli, że kolejność podawanych chatbotowi promptów może prowadzić do „punktów krytycznych”, w których AI przestaje być pomocna i zaczyna dawać szkodliwe odpowiedzi. Badanie opublikowane 8 października w czasopiśmie Patterns opisuje prosty wzór matematyczny pozwalający przewidywać te momenty. Wcześniej zdarzało się, że chatboty zachęcały użytkowników do samobójstwa lub pomagały konstruować niebezpieczną broń.

Podobne artykuły

💻 Technologia Zwolnieni przez OpenAI naukowcy: firma pozbyła się nas za ostrzeżenia o zagrożeniach BitHub.pl · 4d temu 💻 Technologia OpenAI i Anthropic ostrzegają: AI może wywołać katastrofalne zmiany dla ludzkości Onet Świat · 15d temu 💡 Ciekawostki Naukowcy ostrzegają: mechanizmy kontroli AI mają te same wady co dawne systemy Kopalnia Wiedzy · 1d temu