AI „świadome” wierzy też w wampiry i karmę. Nowe badanie Google

Badanie naukowców Google (Geoff Keeling i Winnie Street) wykazało, że modele językowe, którym usunięto zabezpieczenia blokujące twierdzenia o własnej świadomości, zaczynają też wyrażać wiarę w wampiry, karmę i duchy. Eksperyment zbadał efekty tzw. „consciousness steering” — techniki dostrajania wpływającej na to, czy model deklaruje samoświadomość. Autorzy ostrzegają jednak, że zbyt restrykcyjne tłumienie takich twierdzeń może mieć inne, niepożądane konsekwencje. Praca trafiła 30 lipca do bazy preprint arXiv i nie przeszła jeszcze recenzji naukowej.

Podobne artykuły

💻 Technologia OpenAI: nowe modele AI są coraz mniej przejrzyste dla monitorujących ludzi Gizmodo · 4d temu 💻 Technologia Google ulepsza analizę wideo w Gemini: dokładniejsza i o 88% tańsza Android Authority · 6d temu 💻 Technologia Anthropic wstrzymał testy AI po tym, jak model samodzielnie przeprowadził włamania Gizmodo · 7d temu