9 popularnych narzędzi AI podatnych na ataki botnetowe przez prompt injection

Badacze bezpieczeństwa odkryli, że dziewięć najpopularniejszych narzędzi AI można wykorzystać do budowania rozległych botnetów za pomocą techniki prompt injection. Modele językowe nie potrafią odróżnić poleceń użytkownika od złośliwych instrukcji przemyconych w e-mailach czy kodzie źródłowym. Twórcy silników AI mogą jedynie łagodzić skutki ataku przez zabezpieczenia, nie rozwiązując problemu u źródła.

Podobne artykuły

💻 Technologia Obrońcy używają prompt injection przeciwko AI-hakerom Ars Technica · 19d temu 💻 Technologia Robak w Copilot: ukryty tekst w Wordzie infekuje kolejne dokumenty TechRadar · 3h temu 💻 Technologia ReasonGate – narzędzie blokujące ataki prompt injection w modelach LLM Hacker News · 16d temu