NVIDIA paskelbė pirmuosius „Vera Rubin NVL72“ rezultatus „MLPerf Inference v6.1“. Qwen3-VL bandymuose sistema pasiekė iki 3,7 karto didesnį pralaidumą nei „GB300 NVL72“ „offline“, serverio ir interaktyviuose scenarijuose, naudodama vLLM bei atvirojo kodo „NVIDIA Dynamo“. „DeepSeek-R1“ bandyme su „TensorRT-LLM“ pralaidumas buvo iki 2,5 karto didesnis.
Atskirame „GB300 NVL72“ bandyme keturi stelažai su 288 GPU „DeepSeek-R1“ „offline“ scenarijuje pasiekė 99 proc. mastelio efektyvumą. NVIDIA taip pat nurodo, kad programinės optimizacijos Qwen3-VL našumą, palyginti su ankstesne MLPerf versija, padidino iki 1,6 karto.
Kodėl tai svarbu?
INVIS vertinimas: rezultatai rodo, kad inferencijos ekonomika priklauso ne tik nuo naujų lustų. Stelažo jungtys, užklausų orkestravimas ir programinė įranga gali pakeisti realų sistemos pralaidumą.
Redakcijos pastaba
Originali lietuviška santrauka pagal oficialų NVIDIA šaltinį. Tekstą rengiant ir tikrinant naudotas DI. Iliustracija sukurta DI.
