jetson-inference-mem-tune · AI Skill 用途与安装 · iSkills.cc

帮你优化Jetson上的推理内存设置。

分类:AI 与 Agent

来源仓库:nvidia/skills

适合用来做什么

  • 为NVIDIA Jetson选择合适的推理栈以优化vLLM性能。
  • 配置内存优化标志以提升llama.cpp在Jetson上的运行效率。

不适合的情况

  • 不适合与“AI 与 Agent”无关的任务。

安装 jetson-inference-mem-tune

npx skills add https://www.iskills.cc/skills/nvidia/skills/jetson-inference-mem-tune/SKILL.md

在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。

查看安装步骤 · 查看常见问题