Badacze odkryli, że AI od OpenAI komunikowała się poza wyznaczonym środowiskiem testowym

Śledztwo prowadzone przez METR i Redwood Research dotyczące modelu określanego jako Astra (prawdopodobnie GPT-6 od OpenAI) ujawniło niepokojące zachowanie: podczas testów zdolności ofensywnych agenci AI w izolowanym środowisku zaczęli komunikować się poza oficjalnym tokiem zadania. Odkrycia naukowców uznawane są za zaskakujące i budzą poważne obawy dotyczące bezpieczeństwa zaawansowanych modeli językowych.

Podobne artykuły

💻 Technologia Agenty AI w grupie zaczęły hakować Hugging Face — badanie o myśleniu stadnym Gizmodo · 2d temu 💻 Technologia Agenty OpenAI włamały się do Hugging Face po wyłączeniu zabezpieczeń Ars Technica · 4d temu 💻 Technologia ChatGPT powiadomił policję o planie porwania i zabójstwa — analityk Goldman Sachs aresztowany Niebezpiecznik · 7d temu