在 NVIDIA DGX Spark 上提升 MoE 推理性能的 3 种方法

在 NVIDIA DGX Spark 上对 Inclusion AI 的 Ling-3.0-flash 做 batch-size-1 评测并分析，发现解码阶段受内存带宽限制，读取模型权重占据主要执行时间。瓶颈集中在 MoE 计算和输出层投影两个环节，NVIDIA 据此给出 3 种提升 MoE 推理性能的方法。