Espresso: trening modeli Transformer bezpośrednio na układzie Apple Neural Engine
Projekt Espresso na GitHubie autorstwa Christophera Karaniego umożliwia trenowanie i uruchamianie modeli językowych Transformer bezpośrednio na układzie Apple Neural Engine, bez konieczności korzystania z CPU lub GPU. Rozwiązanie może znacząco przyspieszyć wnioskowanie modeli AI na urządzeniach Apple. Link zebrał 14 punktów na Hacker News i 3 komentarze.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!