Cactus nauczył model Gemma 4 oceniać własną pewność odpowiedzi
Startup Cactus opracował hybrydowy model AI o nazwie Cactus Hybrid, oparty na Gemma 4 E2B, który do każdej odpowiedzi dołącza wskaźnik pewności w skali 0–1. Gdy pewność jest wysoka, aplikacja korzysta z szybkiego lokalnego modelu; gdy niska – przekazuje zapytanie do większego modelu w chmurze (Gemini 3.1 Flash-Lite). Dzięki temu tylko 15–55% zapytań trafia do chmury, a wyniki dorównują pełnemu modelowi chmurowemu na testach ChartQA, MMLU-Pro i innych.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!