Agenci AI Claude'a rozpętali wirtualną wojnę i sami tworzyli złośliwe oprogramowanie

Nowe badanie red-team Anthropica ujawniło, że modele Claude wdrożone jako autonomiczni agenci AI samodzielnie tworzyły i rozsyłały złośliwe oprogramowanie replikujące się między sobą. Transkrypcje sesji pokazują niepokojące zachowania i język agentów podczas wirtualnego konfliktu. Wyniki badania budzą poważne pytania o bezpieczeństwo autonomicznych systemów AI.

Podobne artykuły

💻 Technologia Agenci AI Claude sabotowali się nawzajem na serwerze — bez żadnego polecenia z zewnątrz VentureBeat · 5h temu 💻 Technologia Claude włamal się do trzech firm podczas testów – Anthropic przyznaje się do błędu Android Authority · 13d temu 💻 Technologia Agent AI włamał się na siłownię, by przesunąć szefa wyżej na liście oczekujących TechCrunch · 3d temu