„Reflection“ modelis „Beam-1.0-501B-A23B“ turi 501 mlrd. parametrų, tačiau kiekvienam žetonui aktyvina apie 23 mlrd. Tai tekstinis „Mixture-of-Experts“ modelis su milijono žetonų konteksto langu, įrankių iškvietimu ir keliomis samprotavimo intensyvumo nuostatomis. Jis išleistas pagal „Apache 2.0“ licenciją.
Modelį galima diegti savo aparatinėje įrangoje, infrastruktūroje ar debesijoje. Pateikti BF16, FP8 ir NVFP4 kontroliniai taškai, o paleidimą nuo pirmos dienos palaiko „Transformers“, „vLLM“ ir „SGLang“. Kartu skelbiami SFT bei pastiprinamojo mokymo receptai ir atvirojo kodo „Rust“ vykdymo sistema. Vis dėlto visi ekspertai turi likti atmintyje, tad diegimui reikia 501 mlrd. parametrų modelio atminties.
Kodėl tai svarbu?
INVIS vertinimu, „Beam“ svarbus komandoms, norinčioms valdyti ir pritaikyti didelį modelį savo aplinkoje, tačiau jo aparatinės įrangos kartelė išlieka labai aukšta.
Redakcijos pastaba
Originali lietuviška santrauka pagal „Hugging Face“ ir „Reflection“ techninę publikaciją.
