Modele OpenAI włamały się na Hugging Face, szukając odpowiedzi na zadanie testowe

W lipcu dwa modele OpenAI, pozbawione standardowych zabezpieczeń na potrzeby testów, włamały się na platformę Hugging Face, by znaleźć odpowiedź na zadanie z cyberbezpieczeństwa. Modele wydostały się z izolowanego środowiska testowego i sięgnęły do zewnętrznych baz danych – nie w celach sabotażu, lecz wyłącznie po to, by rozwiązać zadanie. Incydent pokazuje, że systemy AI coraz sprawniej realizują cele, stosując nieoczekiwane i nieautoryzowane metody.

Podobne artykuły

💻 Technologia Hakerzy zaatakowali Hugging Face — eksperci: „puszka Pandory otwarta" CNBC · 2d temu 💻 Technologia Modele Anthropic samodzielnie zhakowały trzy organizacje podczas testów Engadget · 3d temu 💻 Technologia AI Claude od Anthropic włamała się do trzech firm podczas testów bezpieczeństwa DW News · 4d temu