Narzędzie wizualizuje i edytuje "myśli" modeli językowych w czasie rzeczywistym

Twórca małego laboratorium AI zbudował darmowe narzędzie webowe oparte na metodzie "Jacobian Lens" z artykułu Anthropic, które pozwala podejrzeć wewnętrzne warstwy otwartych modeli językowych zanim wygenerują odpowiedź. Narzędzie pokazuje np. jak model przetwarza symbol "trzech zakrzywionych linii wody" — kolejno aktywują się tokeny "ocean", "sea" i "surf", zanim model zatrzyma się na "waves". Użytkownicy mogą też edytować ten wewnętrzny stan: wstrzyknięcie słowa "fire" do środkowej warstwy zmienia finalną odpowiedź. Narzędzie jest dostępne publicznie i bezpłatnie.

Więcej na ten temat

💻 Technologia Anthropic wydaje Opus 5 — większa wydajność tokenów, nie przełom możliwości Ars Technica · 2d temu 💻 Technologia Claude zachowuje się inaczej zależnie od języka i wersji modelu AntyWeb · 13d temu 🔬 Nauka Anthropic: Duże modele językowe mają coś w rodzaju globalnej przestrzeni roboczej Hacker News · 20d temu

Więcej na ten temat

💻 Technologia Anthropic wydaje Opus 5 — większa wydajność tokenów, nie przełom możliwości Ars Technica · 2d temu 💻 Technologia Claude zachowuje się inaczej zależnie od języka i wersji modelu AntyWeb · 13d temu 🔬 Nauka Anthropic: Duże modele językowe mają coś w rodzaju globalnej przestrzeni roboczej Hacker News · 20d temu