用Rust推理用这Skill看约束

帮你用 Rust 构建机器学习应用,处理 GPU 加速和模型推理。

domain-ml 是梳理 Rust 机器学习工程约束的 Skill。它从数据规模、GPU、模型格式、数值精度和复现,连接到加载、批处理与流水线设计。

模型每次请求重载会增成本,一次加载复用却还要看线程安全与生命周期。张量用视图可少复制,但“Rust”或“零复制”不能保证没有其他传输与计算开销。

批量可能提高吞吐,也可能让单个请求等待更久。主文推理函数标成 async,内部同步计算并不会自动转移到后台或释放运行线程,得核真实执行方式。

代码里有省略类型和未定义辅助函数,它是思路示例,不是完整可编译服务。适合先定位部署取舍,模型格式支持、后端与硬件兼容需另核;设随机种子也不单独保证 GPU 结果可复现。

分类:AI 与 Agent

来源仓库:actionbook/rust-skills

适合用来做什么

  • 在 Rust 中构建一个简单的机器学习模型,用于图像分类。
  • 使用 tch-rs 库实现一个神经网络,用于深度学习任务。

安装 domain-ml

npx skills add https://www.iskills.cc/skills/actionbook/rust-skills/domain-ml/SKILL.md

在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。

查看安装步骤 · 查看常见问题

查看 domain-ml 的用途与原始说明

浏览全部 Skill 指南