jetson-llm-benchmark · AI Skill 用途与安装 · iSkills.cc
帮你测试Jetson上的LLM性能。
分类:测试排错
来源仓库:nvidia/skills
适合用来做什么
- 对Jetson上的llama.cpp进行基准测试并生成报告。
- 比较vLLM和Ollama在Jetson设备上的性能差异。
不适合的情况
- 不适合与“测试排错”无关的任务。
安装 jetson-llm-benchmark
npx skills add https://www.iskills.cc/skills/nvidia/skills/jetson-llm-benchmark/SKILL.md
在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。