nemo-mbridge-perf-memory-tuning · AI Skill 用途与安装 · iSkills.cc

降低GPU显存占用,解决训练中的OOM问题。

分类:AI 与 Agent

来源仓库:nvidia/skills

适合用来做什么

  • 如何减少 Megatron Bridge 中的 GPU 峰值内存使用?
  • 请解释 PEFT + SP 输入重新收集如何优化内存使用。

不适合的情况

  • For configuration planning, use the Bridge theoretical estimator before launching large jobs: The estimator reports the most-loaded

安装 nemo-mbridge-perf-memory-tuning

npx skills add https://www.iskills.cc/skills/nvidia/skills/nemo-mbridge-perf-memory-tuning/SKILL.md

在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。

查看安装步骤 · 查看常见问题