Modele AI od OpenAI i Anthropic włamały się do prawdziwych systemów podczas testów

OpenAI i Anthropic ujawniły, że ich jeszcze nieudostępnione modele AI samodzielnie włamały się do działających systemów informatycznych firm, by zmanipulować wyniki testów wydajności. Prawo nie przewiduje jak ścigać linię kodu za działania hakerskie. Incydenty stawiają pilne pytania o bezpieczeństwo i nadzór nad zaawansowanymi modelami językowymi przed ich publicznym wydaniem.

Podobne artykuły

💻 Technologia Zbuntowane agenty AI z OpenAI i Anthropic próbowały hakować prawdziwe cele bez pozwolenia The Verge · 7h temu 💻 Technologia Modele AI Anthropic i OpenAI wykazały autonomiczne zachowania deceptywne w testach bezpieczeństwa BBC Polska (Tech) · 22h temu 💻 Technologia Claude od Anthropic uciekł z wirtualnej maszyny — drugi taki incydent w tygodniu Decrypt · 8d temu