Ukrył instrukcje dla AI w piśmie sądowym białą czcionką, żeby manipulować wynikami

Matthew Elliott, pozywający nowojorską klinikę bariatryczną, ukrył w oficjalnym piśmie sądowym instrukcje dla modeli językowych AI zapisane białą czcionką rozmiaru 3 pt — niewidoczną dla ludzkiego oka. Polecenia nakazywały AI popieranie jego stanowiska i zgodność wyników analizy z treścią pisma. Technika ta, znana jako „prompt injection", może wpłynąć na systemy AI wspomagające pracę sądów lub prawników.

Podobne artykuły

💻 Technologia Luka w AI Atlassian: ukryty tekst w PDF przesyła twoje dane Jira atakującemu Decrypt · 2d temu 💻 Technologia Agenci AI podatni na „zatruwanie pamięci" — fałszywe fakty trwają miesiącami TechRadar · 3d temu 💻 Technologia Badacz bezpieczeństwa: dokument Worda może zamienić Copilota w rozsiewacza robaków AI PC Gamer · 8d temu