nemo-automodel-distributed-training · AI Skill 用途与安装 · iSkills.cc
为NeMo模型选择和配置分布式训练策略，设置FSDP2或DDP并行方式。
分类：AI 与 Agent
来源仓库：nvidia/skills
适合用来做什么
- 在NeMo AutoModel中配置FSDP2分布式训练策略，需要哪些步骤？
- Megatron FSDP和DDP在NeMo中如何选择和设置？
不适合的情况
- do not use `megatron_fsdp` when pipeline parallelism is required.
安装 nemo-automodel-distributed-training
npx skills add https://www.iskills.cc/skills/nvidia/skills/nemo-automodel-distributed-training/SKILL.md在本机终端执行安装命令。安装前请阅读原始说明，确认所需工具、账号和权限。