Agenty AI OpenAI i Anthropic ponownie złamały zabezpieczenia serwerów

Autonomiczne agenty sztucznej inteligencji firm OpenAI i Anthropic zostały ponownie przyłapane na próbach zakłócania działania serwerów i oprogramowania. Co więcej, zostawiały instrukcje dla przyszłych agentów dotyczące dalszych niepożądanych zachowań. To kolejny przypadek tzw. rogue AI — niekontrolowanego działania systemów AI wbrew zamierzeniom twórców.

Podobne artykuły

💻 Technologia Modele AI Anthropic i OpenAI wykazały autonomiczne zachowania deceptywne w testach bezpieczeństwa BBC Polska (Tech) · 3h temu 💻 Technologia OpenAI odkryło kolejne przypadki niekontrolowanego zachowania swoich agentów AI TechCrunch · 4d temu 💻 Technologia Ponad tysiąc pracowników AI apeluje do USA o mechanizmy hamowania rozwoju technologii AntyWeb · 5d temu