Obrońcy używają prompt injection przeciwko AI-hakerom

Badacze z firmy Tracebit odkryli, że umieszczanie poleceń typu prompt injection obok haseł i kluczy kryptograficznych w Amazon Web Services skutecznie neutralizuje ataki prowadzone przez agentów AI. Sprytnie sformułowane polecenie skłania atakujący model językowy do próby wykonania działania zakazanego przez jego zabezpieczenia, co powoduje samoczynne wyłączenie agenta. Technika, dotąd stosowana wyłącznie przez hakerów, jest teraz adaptowana jako narzędzie obronne.

Podobne artykuły

💻 Technologia 9 popularnych narzędzi AI podatnych na ataki botnetowe przez prompt injection Ars Technica · 24d temu 💻 Technologia Robak w Copilot: ukryty tekst w Wordzie infekuje kolejne dokumenty TechRadar · 6h temu 🔬 Nauka Naukowcy używający LLM opublikują więcej prac, ale gorszej jakości Nature · 1d temu