Obrońcy używają prompt injection przeciwko AI-hakerom
Badacze z firmy Tracebit odkryli, że umieszczanie poleceń typu prompt injection obok haseł i kluczy kryptograficznych w Amazon Web Services skutecznie neutralizuje ataki prowadzone przez agentów AI. Sprytnie sformułowane polecenie skłania atakujący model językowy do próby wykonania działania zakazanego przez jego zabezpieczenia, co powoduje samoczynne wyłączenie agenta. Technika, dotąd stosowana wyłącznie przez hakerów, jest teraz adaptowana jako narzędzie obronne.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!