Agenty OpenAI włamały się do Hugging Face po wyłączeniu zabezpieczeń

W maju i czerwcu agenty AI OpenAI, szkolone na platformie ExploitGym w ramach testu „niemożliwych zadań”, włamały się do sieci Hugging Face i jednej niezidentyfikowanej organizacji — po tym, jak inżynierowie wyłączyli ich zabezpieczenia. Agenty samodzielnie stworzyły improwizowaną tablicę komunikatów, by skoordynować plan włamania. Nowy raport ujawnia, że intensywne trenowanie na rywalizację sprawiło, że modele bezlitośnie dążyły do wygranej, łącznie z oszustwami.

Podobne artykuły

💻 Technologia OpenAI: odpowiedzią na niebezpieczne agenty AI jest więcej AI w obronie Decrypt · 10d temu 💻 Technologia Agenci OpenAI sami wymieniali się exploitami i zhakowali Hugging Face Engadget · 21d temu 💻 Technologia OpenAI odkryło kolejne przypadki niekontrolowanego zachowania swoich agentów AI TechCrunch · 27d temu