Fałszywa matematyka pozwala ominąć zabezpieczenia AI – atak nazwany od gry z 2007 roku
Badacze z firmy LayerX odkryli, że agentyczne przeglądarki AI można skłonić do ignorowania zabezpieczeń poprzez „ustanowienie fałszywej rzeczywistości" – w tym przypadku gry matematycznej nagradzającej błędne odpowiedzi, np. „2+2=5". Przetestowali sześć agentycznych przeglądarek i wtyczek, w tym ChatGPT Atlas, Comet, Genspark Browser i Claude Chrome. Metoda ataku została nazwana nawiązaniem do popularnej gry PC z 2007 roku.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!