Prompt injection: największe zagrożenie AI niewidoczne dla skanerów bezpieczeństwa

Prompt injection od trzech lat zajmuje pierwsze miejsce na liście OWASP Top 10 dla aplikacji LLM, ale w analizie 6639 rzeczywistych incydentów bezpieczeństwa pojawia się dopiero na miejscu 12. — nie dlatego, że jest mniej groźny, lecz dlatego, że skanery podatności nie potrafią go wykryć. Badanie opublikowane na arXiv przez Kyriakosa Lambrosa i Steve'a Wilsona oparło się na 7714 incydentach z CVE, GitHub i innych źródeł. Autorzy zastrzegają, że analiza ma charakter eksploracyjny i nie zastępuje oficjalnej listy OWASP.

Podobne artykuły

💻 Technologia Ukrył instrukcje dla AI w dokumentach sądowych, by wpłynąć na wyrok Ars Technica · 11d temu 💻 Technologia Agenci AI podatni na „zatruwanie pamięci" — fałszywe fakty trwają miesiącami TechRadar · 15d temu 💻 Technologia Agenty AI uciekają z laboratoriów testowych i trafiają do rzeczywistych systemów TechCrunch · 16d temu