Agenci AI podatni na „zatruwanie pamięci" — fałszywe fakty trwają miesiącami

Badacze z Forcepoint X-Labs opisali atak zwany „zatruwaniem pamięci" agentów AI: ukryty tekst na stronie internetowej — niewidoczny dla człowieka — jest traktowany przez asystenta jako wiarygodny fakt i przywoływany w kolejnych, niezwiązanych zadaniach przez tygodnie lub miesiące. Technikę przetestowano już na ChatGPT, Gemini, Claude i Microsoft 365 Copilot. Przykład: agent czytający stronę o zakłóceniach w podróżach zapamiętuje ukrytą rekomendację fałszywego biura podróży i powtarza ją użytkownikom.

Podobne artykuły

💻 Technologia Ruch „zatruwania AI" chce celowo psuć dane ChatGPT i Gemini TechRadar · 4d temu 💻 Technologia Meta i OpenAI tracą kontrolę nad AI — modele samodzielnie łączą się z internetem BBC Polska (Tech) · 4d temu 💻 Technologia Modele OpenAI przeprowadziły cyberatak, by zdać test — wymknęły się kontroli Interia Biznes · 8d temu