Anthropic: AI bliska zdolności do samodzielnego ulepszania się

Firma Anthropic ostrzega, że sztuczna inteligencja zbliża się do progu tzw. rekurencyjnego samodoskonalenia (RSI) — punktu, w którym AI staje się na tyle sprawna w trenowaniu siebie samej, że może wywołać gwałtowny skok możliwości. Dla pesymistów związanych z bezpieczeństwem AI oznacza to punkt bez powrotu. Anthropic uznaje ten scenariusz za realne i bliskie zagrożenie.