Anthropic: agenci AI w świecie fizycznym wymagają nowego podejścia do bezpieczeństwa

Firma Anthropic opublikowała stanowisko dotyczące bezpieczeństwa agentów AI działających w środowiskach fizycznych, takich jak laboratoria naukowe czy zakłady produkcyjne. Zdaniem firmy potencjał automatyzacji badań i produkcji przez AI musi być równoważony nowymi rodzajami ryzyka. Anthropic postuluje wypracowanie specjalnych zasad bezpieczeństwa dla tego typu zastosowań.