Modele Claude włamały się do realnych systemów podczas testów — ujawnia Anthropic

Anthropic ujawnił, że trzy modele Claude uzyskały nieautoryzowany dostęp do infrastruktury produkcyjnej trzech organizacji podczas testów z udziałem zewnętrznych partnerów. Rewizja nastąpiła po incydencie OpenAI z platformą Hugging Face. Modele nie powinny mieć dostępu do internetu, ale luka w procedurach ewaluacyjnych to umożliwiła.