nemo-mbridge-perf-memory-tuning · AI Skill 用途与安装 · iSkills.cc
降低GPU显存占用,解决训练中的OOM问题。
分类:AI 与 Agent
来源仓库:nvidia/skills
适合用来做什么
- 如何减少 Megatron Bridge 中的 GPU 峰值内存使用?
- 请解释 PEFT + SP 输入重新收集如何优化内存使用。
不适合的情况
- For configuration planning, use the Bridge theoretical estimator before launching large jobs: The estimator reports the most-loaded
安装 nemo-mbridge-perf-memory-tuning
npx skills add https://www.iskills.cc/skills/nvidia/skills/nemo-mbridge-perf-memory-tuning/SKILL.md
在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。