robots-txt · AI Skill 用途与安装 · iSkills.cc
配置和审计 robots.txt,控制爬虫访问权限。
分类:营销增长
来源仓库:kostja94/marketing-skills
适合用来做什么
- 配置robots.txt以阻止特定路径的爬虫。
- 审核现有的robots.txt文件。
不适合的情况
- For indexing, use indexing.
安装 robots-txt
npx skills add https://www.iskills.cc/skills/kostja94/marketing-skills/robots-txt/SKILL.md
在本机终端执行安装命令。安装前请阅读原始说明,确认所需工具、账号和权限。