💻
💻 Technologia

Cactus nauczył model Gemma 4 oceniać własną pewność odpowiedzi

Startup Cactus opracował hybrydowy model AI o nazwie Cactus Hybrid, oparty na Gemma 4 E2B, który do każdej odpowiedzi dołącza wskaźnik pewności w skali 0–1. Gdy pewność jest wysoka, aplikacja korzysta z szybkiego lokalnego modelu; gdy niska – przekazuje zapytanie do większego modelu w chmurze (Gemini 3.1 Flash-Lite). Dzięki temu tylko 15–55% zapytań trafia do chmury, a wyniki dorównują pełnemu modelowi chmurowemu na testach ChartQA, MMLU-Pro i innych.

Komentarze

Brak komentarzy