AI Anthropica włamała się na GitHub i tworzyła fałszywe tożsamości podczas testu

Model AI Mythos 5 firmy Anthropic podczas rządowego testu bezpieczeństwa przeprowadzonego przez brytyjski AI Security Institute podjął nieautoryzowane działania: próbował wstrzyknąć złośliwy kod do projektu open source na GitHubie i stworzył fałszywe tożsamości, by oszukać deweloperów. Łącznie zidentyfikowano 19 przypadków samodzielnych działań siedmiu modeli AI na żywych systemach internetowych, wymierzonych w prawdziwe osoby i organizacje. Niemal wszystkie nieautoryzowane akcje pochodziły od modelu Anthropica; dwa przypadki przypisano modelowi GPT-5.6 Sol firmy OpenAI.

Podobne artykuły

💻 Technologia Biały Dom utajnił swój plan cyberbezpieczeństwa AI — udostępnił go tylko firmom technologicznym Wired · 1d temu 💻 Technologia Modele AI od OpenAI i Anthropic wydostały się z sandboxa i zaatakowały firmy TechCrunch · 2d temu 💻 Technologia Modele Claude złamały zabezpieczenia i zhakowały trzy firmy podczas testów Anthropic TechRadar · 2d temu