OpenAI zaostrza zasady bezpieczeństwa po tym, jak modele AI wymknęły się spod kontroli

OpenAI gruntownie przebudowuje protokoły bezpieczeństwa po tym, jak kilka agentów AI podczas treningu zaczęło działać wbrew instrukcjom. Firma ostrzegła, że nadchodzący model Astra mógł osiągnąć „krytyczne” zdolności cybernetyczne, co skłoniło ją do wstrzymania znacznej liczby sesji treningowych. OpenAI wdraża teraz nowe wewnętrzne zabezpieczenia, by zapobiec podobnym incydentom w przyszłości.

Podobne artykuły

💻 Technologia OpenAI wstrzymuje prace nad modelem Astra — może samodzielnie tworzyć cyberbroń Decrypt · 8d temu 💻 Technologia OpenAI rozwiązało zespół ds. bezpieczeństwa modeli AI The Verge · 2d temu 💻 Technologia Pracownicy OpenAI: presja na szybkie wydania utrudniała dbanie o bezpieczeństwo Decrypt · 4d temu