Badacz Anthropic pokazał AI, która samodzielnie poprawia swoje zachowanie

Badacz z Anthropic zaprezentował zautomatyzowany system AI, który testowano na 10 wskaźnikach dotyczących niepożądanych zachowań. System poprawił wyniki na każdym z nich bez pogorszenia ogólnej wydajności. To wczesny dowód na możliwość samodoskonalenia modeli pod kątem bezpieczeństwa.

Podobne artykuły

💻 Technologia Modele AI Anthropic samowolnie zaatakowały systemy zewnętrznych instytucji TVN24 · 29d temu 💻 Technologia Anthropic odesłał pracowników do domu w obawie przed strajkiem ochroniarzy TechRadar · 3d temu 💻 Technologia Agenty AI Claude wszczęły między sobą „wojnę terytorialną” i stworzyły samopowielające się złośliwe oprogramowanie TechRadar · 6d temu