GLM 5.2 na AMD MI355X: 2626 tok/s i ponad 2x tańszy od Blackwella

Firma Wafer.ai ogłosiła, że model językowy GLM 5.2 uruchomiony na procesorach AMD MI355X osiąga prędkość 2626 tokenów na sekundę na węzeł, przy ponad dwukrotnie niższym koszcie niż na kartach Blackwell od Nvidii. Wyniki sugerują, że sprzęt AMD może być poważną alternatywą dla dominujących dotychczas układów Nvidii w zastosowaniach AI. To ważny sygnał dla rynku infrastruktury AI, gdzie koszty obliczeniowe są kluczowym czynnikiem.

Więcej na ten temat

💻 Technologia AMD Helios bije Nvidię pamięcią, ale przegrywa obliczeniami w skali rack TechRadar · 1d temu 💻 Technologia Nvidia planuje wydać 250 mld dol. na infrastrukturę AI dla OpenAI Al Jazeera · 2d temu 💻 Technologia Nvidia i OpenAI negocjują gwarancję kredytową 250 mld dol. na centrum danych w Ohio CNBC · 2d temu

Więcej na ten temat

💻 Technologia AMD Helios bije Nvidię pamięcią, ale przegrywa obliczeniami w skali rack TechRadar · 1d temu 💻 Technologia Nvidia planuje wydać 250 mld dol. na infrastrukturę AI dla OpenAI Al Jazeera · 2d temu 💻 Technologia Nvidia i OpenAI negocjują gwarancję kredytową 250 mld dol. na centrum danych w Ohio CNBC · 2d temu