Modele AI są najbardziej pewne siebie właśnie wtedy, gdy się mylą

Badania nad narzędziami opartymi na dużych modelach językowych (LLM) ujawniają niepokojący wzorzec: modele wykazują największą pewność siebie dokładnie wtedy, gdy ich odpowiedź jest błędna. Wewnętrzne recenzje często tego nie wychwytują, bo oceniający sprawdzają, czy odpowiedź brzmi przekonująco, a nie czy jest merytorycznie poprawna. Systematyczne testy porównujące wyniki modelu ze wzorcem prawidłowych odpowiedzi (eval harness) pozwalają wykryć te błędy, których jakościowy przegląd nie dostrzega.