一栏文档存成本地,这款Skill来抓

爬取整个网站保存为本地markdown文件。

tavily-crawl 用于从同一个网站抓取多页内容,指导 AI 按范围收集资料,并把页面保存为本地 Markdown。你给它网站、需要的栏目和抓取上限,它会通过 Tavily CLI 处理这批页面。

例如想保存某个工具的 API 文档,可以限制在 API 和指南路径,排除博客栏目,再设置深度和页数。先从小范围查看结果,才能判断链接规则是否选对,避免顺着外链抓进大量无关内容。

原文区分两种输出目标。为了给 AI 回答一个问题,可以按自然语言要求返回相关片段;为了留存文档,则按页输出文件,不使用只保留片段的选项。这两种结果不能混称为完整备份。

使用前需要安装并认证 Tavily CLI。抓取受页面访问条件和设定范围影响,拿到文件后还要检查缺页、空内容和过滤结果。知道栏目结构时直接限制路径,不清楚时可以先发现链接再决定抓取范围。

适合“这一个网站里,有一批页面要一起读”的任务。最终产物是可继续整理的文件或结构化内容,不必手工逐页复制粘贴。

分类:自动化集成

来源仓库:tavily-ai/skills

适合用来做什么

  • 如何使用Tavily爬虫来优化Agent的工作流程?
  • 请为我配置Tavily爬虫以抓取特定网站的数据。

安装 tavily-crawl

npx skills add https://www.iskills.cc/skills/tavily-ai/skills/tavily-crawl/SKILL.md

在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。

查看安装步骤 · 查看常见问题

查看 tavily-crawl 的用途与原始说明

浏览全部 Skill 指南