Hugging Face WebAI komanda pristatė @huggingface/kernels biblioteką ir pradinę 207 WebGPU skaičiavimo komponentų kolekciją. Ji apima žemo lygio operacijas, naudojamas mašininio mokymosi modeliuose. Biblioteka leidžia šiuos komponentus atsisiųsti, parengti ir vykdyti tiesiogiai iš Hugging Face Hub.
Kiekvienas komponentas pateikiamas kaip versijuojamas paketas su aprašyta sąsaja, naudojimo pavyzdžiais, teisingumo testais ir našumo bandymais. Komanda taip pat pristatė Fleet – naršyklėje veikiančią testavimo aplinką, padedančią tikrinti veikimą skirtingose vaizdo plokštėse. Paskelbta komponentų kolekcija licencijuojama pagal Apache 2.0.
INVIS vertinimu, tai naudinga infrastruktūros naujiena kūrėjams, kurie siekia daugiau skaičiavimų atlikti vartotojo įrenginyje. Tačiau bibliotekos pasirodymas savaime nereiškia, kad bet kuris didelis modelis sklandžiai veiks kiekvienoje naršyklėje. Galutinį rezultatą vis dar lemia modelio dydis, įrenginio atmintis, GPU ir aukštesnio lygio vykdymo aplinka.
Kodėl tai svarbu?
Geriau patikrinti WebGPU komponentai gali palengvinti DI funkcijų kūrimą naršyklėje ir sumažinti priklausomybę nuo serverio skaičiavimų.
Redakcijos pastaba
Originali lietuviška santrauka pagal nurodytus pirminius šaltinius. Iliustracija sukurta DI.
Skaitykite originalius pranešimus ir patikrinkite kontekstą.
Šaltinio paskelbimo data: .
