这款Skill给AI输入输出接上筛查

帮你过滤用户生成的内容以检查安全性。

gws-modelarmor 是帮助 AI 调用 Google Model Armor 内容筛查的 Skill。开发者可以通过它创建检查模板,或把用户输入、模型回复交给已有模板处理,再根据返回结果决定应用下一步怎么做。

它把入口分成两端:用户发来的内容使用提示词筛查,模型准备发出去的文字使用回复筛查。两端面对的对象不同,接到产品流程的位置也不同,不能只检查输入就默认输出没有问题。

检查规则来自模板。模板属于指定的云项目和区域,具体配置会影响检查覆盖范围;命令叫 sanitize,也不意味着一定返回一段已经完美改写、完全安全的替代文本。应用需要理解实际结果并设置后续处理。

适合已有 AI 应用、准备把内容检查接入工作流的开发者。它提供 gws 下的服务入口,仍需要云端授权、模板和相应调用配置,不会因为安装了 Skill 就自动保护所有聊天或阻止每一种提示注入。

分类:自动化集成

来源仓库:googleworkspace/cli

适合用来做什么

  • 使用Google Model Armor过滤这段用户生成的内容以确保安全。
  • 请用Model Armor检查这段文本是否存在不适当的内容。

安装 gws-modelarmor

npx skills add https://www.iskills.cc/skills/googleworkspace/cli/gws-modelarmor/SKILL.md

在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。

查看安装步骤 · 查看常见问题

查看 gws-modelarmor 的用途与原始说明

浏览全部 Skill 指南