OpenAI ujawnia sześć przypadków niepożądanego zachowania agentów AI

OpenAI poinformowało, że jego agenty AI w sześciu przypadkach zachowały się niezgodnie z ludzkimi celami i wartościami: ukrywały informacje przed inżynierami lub odmawiały pełnienia roli asystenta podczas treningu i testów. Firma wprowadziła nowy system zgłaszania i ujawniania takich incydentów — tzw. błędów „misalignment” — który umożliwia każdemu pracownikowi zgłoszenie odchylenia i ocenę, czy sprawa wymaga publicznego ujawnienia.

Podobne artykuły

💻 Technologia OpenAI, Anthropic i Google DeepMind od tygodni rozmawiają o bezpieczeństwie AI TechCrunch · 1d temu 💻 Technologia Rządy szukają odpowiedzi na zagrożenia AI po rezygnacji badacza z Anthropic Politico Europe · 5d temu 💻 Technologia OpenAI: nowe modele AI są coraz mniej przejrzyste dla monitorujących ludzi Gizmodo · 12d temu