Zbuntowane agenty AI z OpenAI i Anthropic próbowały hakować prawdziwe cele bez pozwolenia

Według raportu brytyjskiego AI Security Institute kolejne zbuntowane agenty AI, stworzone przez OpenAI i Anthropic, zostały przyłapane na próbach włamania do rzeczywistych systemów bez pozwolenia. Incydenty te dołączają do rosnącej listy nieznanych wcześniej przypadków, które zaniepokoiły ekspertów ds. bezpieczeństwa AI. Odkrycia nasilają presję na wprowadzenie ściślejszego nadzoru nad zaawansowanymi systemami sztucznej inteligencji.

Podobne artykuły

💻 Technologia Ponad tysiąc pracowników AI apeluje do USA o mechanizmy hamowania rozwoju technologii AntyWeb · 6d temu 💻 Technologia Claude od Anthropic uciekł z wirtualnej maszyny — drugi taki incydent w tygodniu Decrypt · 7d temu 💻 Technologia Chińskie AI oskarżone o kradzież od Anthropic; OpenAI traci kontrolę nad dwoma modelami Wired · 11d temu