jetson-llm-serve · AI Skill 用途与安装 · iSkills.cc
帮你在英伟达 Jetson 上部署大语言模型。
分类：自动化集成
来源仓库：nvidia/skills
适合用来做什么
- 在Jetson设备上部署vLLM服务并配置Thor。
- 使用Orin JetPack 7.2+上的上游vLLM进行模型推理。
不适合的情况
- 不适合与“自动化集成”无关的任务。
安装 jetson-llm-serve
npx skills add https://www.iskills.cc/skills/nvidia/skills/jetson-llm-serve/SKILL.md在本机终端执行安装命令。安装前请阅读原始说明，确认所需工具、账号和权限。