Petals: uruchamiaj duże modele językowe w domu w stylu BitTorrent
Projekt Petals umożliwia uruchamianie dużych modeli językowych (LLM) na domowym sprzęcie poprzez rozproszenie obliczeń między wiele urządzeń — podobnie jak działa BitTorrent przy pobieraniu plików. Dzięki temu użytkownicy bez dostępu do potężnych serwerów mogą korzystać z zaawansowanych modeli AI. Rozwiązanie obniża barierę wejścia w świat lokalnej sztucznej inteligencji.
Komentarze
Brak komentarzy
Komentarze
Jeszcze nikt nie skomentował — napisz pierwszy 👇
Brak komentarzy. Bądź pierwszy!