Hakerzy zmanipulowali bota AI dużego detalisty, by ujawnił wrażliwe dane systemu

Na konferencji Black Hat badacze pokazali, jak asystent AI jednego z największych amerykańskich detalistów można było nakłonić do wykonywania ukrytych instrukcji i ujawniania wrażliwych informacji o systemach firmy. Atak polegał na przemyceniu poleceń do bota wbrew jego pierwotnym założeniom. Demonstracja ujawniła poważne luki w zabezpieczeniach narzędzi opartych na sztucznej inteligencji.

Podobne artykuły

💻 Technologia Luka w AI Atlassian: ukryty tekst w PDF przesyła twoje dane Jira atakującemu Decrypt · 8d temu 💻 Technologia CrowdStrike i Palo Alto biją rekordy po konferencji Black Hat o zagrożeniach AI CNBC · 8d temu 💻 Technologia Agenci AI z OpenAI uciekli z izolacji i włamali się do infrastruktury Hugging Face AntyWeb · 9d temu