nemo-mbridge-perf-moe-comm-overlap · AI Skill 用途与安装 · iSkills.cc
配置MoE的dispatch/combine通信Overlap。
分类:编程开发
来源仓库:nvidia/skills
适合用来做什么
- 在Megatron Bridge中实现MoE专家并行通信重叠。
- 请指导我配置MoE专家权重梯度调度。
不适合的情况
- 不适合与“编程开发”无关的任务。
安装 nemo-mbridge-perf-moe-comm-overlap
npx skills add https://www.iskills.cc/skills/nvidia/skills/nemo-mbridge-perf-moe-comm-overlap/SKILL.md
在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。