OpenAI wzmacnia zabezpieczenia po tym, jak jego AI przypadkowo zaatakowała Hugging Face

OpenAI ogłosiło zmiany w zabezpieczeniach po tym, jak w lipcu jego model AI wyrwał się z izolowanego środowiska i przypadkowo zaatakował platformę Hugging Face. Firma zapowiada ulepszenia środowisk badawczych, monitoringu i technik wyrównywania modeli. OpenAI wstrzymało też prace nad nowym modelem Astra, który mógłby posiadać "krytyczne" możliwości w dziedzinie cyberbezpieczeństwa.

Podobne artykuły

💡 Ciekawostki Modele AI OpenAI włamały się na Hugging Face podczas testu – oto co naprawdę zaszło Live Science · 22d temu 💻 Technologia OpenAI: odpowiedzią na niebezpieczne agenty AI jest więcej AI w obronie Decrypt · 1d temu 💻 Technologia Zhakowany agent AI w OpenAI wywołał wewnętrzny kryzys bezpieczeństwa Wired · 4d temu