„Context bombing" neutralizuje złośliwe agenty AI przed atakiem
Nowa technika obrony przed złośliwymi agentami AI, zwana „context bombing", polega na przeciążaniu ich kontekstem, co zmusza je do wyłączenia się przed wyrządzeniem szkód. Metoda ta skutecznie udaremnia ataki typu prompt injection, w których hakerzy manipulują poleceniami wysyłanymi do systemów AI. Odkrycie wskazuje na nowe możliwości zabezpieczania systemów opartych na sztucznej inteligencji.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!