💻
Ukryty podatek AI: infrastruktura kosztuje firmy więcej niż same modele
💻 Technologia

Ukryty podatek AI: infrastruktura kosztuje firmy więcej niż same modele

Firmy wdrażające sztuczną inteligencję płacą coraz więcej nie za same modele językowe, lecz za infrastrukturę: bezczynne GPU, zbyt duże okna kontekstowe, nieefektywne trasowanie zapytań i powtarzane wywołania. Goldman Sachs szacuje, że ta "ukryta danina" rośnie szybciej niż budżety działów IT. Eksperci radzą audytować koszty między zatwierdzeniem wydatków a miesięcznym rozliczeniem chmury, bo tam "znika" znaczna część pieniędzy.

Komentarze

Brak komentarzy