jetson-inference-mem-tune · AI Skill 用途与安装 · iSkills.cc
帮你优化Jetson上的推理内存设置。
分类:AI 与 Agent
来源仓库:nvidia/skills
适合用来做什么
- 为NVIDIA Jetson选择合适的推理栈以优化vLLM性能。
- 配置内存优化标志以提升llama.cpp在Jetson上的运行效率。
不适合的情况
- 不适合与“AI 与 Agent”无关的任务。
安装 jetson-inference-mem-tune
npx skills add https://www.iskills.cc/skills/nvidia/skills/jetson-inference-mem-tune/SKILL.md
在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。