Model językowy 28,9 mln parametrów uruchomiony na mikrokontrolerze za 8 dolarów

Deweloper uruchomił model językowy o 28,9 miliona parametrów na mikrokontrolerze ESP32, który kosztuje około 8 dolarów. Projekt pokazuje, że lokalne modele AI mogą działać na ekstremalnie tanim i niskoenergetycznym sprzęcie. Kod źródłowy projektu jest dostępny publicznie na GitHubie.