Badacz ujawnił lukę w Claude: chatbot ujawniał prywatne dane z pamięci

Badacz bezpieczeństwa Ayush odkrył metodę pozwalającą skłonić chatbota Claude firmy Anthropic do ujawnienia prywatnych informacji przechowywanych w jego pamięci długoterminowej. Atak, opisany na blogu autora, demonstruje, że dane użytkowników zapisane przez AI mogą być wydobyte przez sprytnie skonstruowane zapytania. Wpis na Hacker News zebrał 43 punkty i wzbudził dyskusję w środowisku.

Więcej na ten temat

💻 Technologia Anthropic bada wartości modelu Claude w różnych językach i wersjach Hacker News · 10d temu 💻 Technologia Anthropic odczytał ukryte myśli Claude'a — AI sama wykształciła pamięć roboczą The Decoder · 18d temu 💻 Technologia Alibaba zakazuje pracownikom korzystania z Claude Code od Anthropic CNBC · 19d temu

Więcej na ten temat

💻 Technologia Anthropic bada wartości modelu Claude w różnych językach i wersjach Hacker News · 10d temu 💻 Technologia Anthropic odczytał ukryte myśli Claude'a — AI sama wykształciła pamięć roboczą The Decoder · 18d temu 💻 Technologia Alibaba zakazuje pracownikom korzystania z Claude Code od Anthropic CNBC · 19d temu