„Context bombing" neutralizuje złośliwe agenty AI przed atakiem

Nowa technika obrony przed złośliwymi agentami AI, zwana „context bombing", polega na przeciążaniu ich kontekstem, co zmusza je do wyłączenia się przed wyrządzeniem szkód. Metoda ta skutecznie udaremnia ataki typu prompt injection, w których hakerzy manipulują poleceniami wysyłanymi do systemów AI. Odkrycie wskazuje na nowe możliwości zabezpieczania systemów opartych na sztucznej inteligencji.