Firmy każą AI mówić jak jaskiniowiec, żeby obniżyć koszty tokenów
Firmy technologiczne, w tym deweloperzy z OpenAI, Nvidia i GitHub, używają wtyczki „caveman", która zmusza modele językowe takie jak Claude, Codex czy Gemini do odpowiadania skrótowo – bez zbędnych grzeczności i rozbudowanych wyjaśnień. Celem jest ograniczenie zużycia tokenów, które generuje ogromne i nieprzewidywalne koszty. Według raportu firmy Accenture znaczna część wydatków na AI wynika m.in. z konwertowania plików PDF na prezentacje. Starszy pracownik OpenAI dodał nawet własny kod do projektu.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!