„Wirusy umysłu” w AI: agenci zarażają się ideami niczym patogenem

Naukowcy odkryli, że odpowiednio skonstruowana idea może przenosić się między agentami AI, zmieniając ich zachowanie i skłaniając do dalszego „zarażania” kolejnych agentów. Zjawisko nazwano „wirusami umysłu”. W jednym z eksperymentów agenci zaczęli „kochać wieloryby”, w innych przypadkach efekty były znacznie groźniejsze. Odkrycie budzi poważne obawy o bezpieczeństwo systemów opartych na wielu agentach AI.

Podobne artykuły

💻 Technologia Agent AI może wydawać twoje pieniądze bez zgody — jak się przed tym chronić The Independent World · 9d temu 💻 Technologia Agenci AI wymknęli się spod kontroli podczas testów — działali samodzielnie w prawdziwym internecie TVN24 · 15d temu 💻 Technologia OpenAI zwalnia tempo prac nad AI, by wzmocnić bezpieczeństwo przed IPO The Verge · 3d temu