OAI-SearchBot(OAI-SearchBot)

AI 爬虫爬虫 —— 开发商、用户代理 UA 与 robots.txt 拦截方法

OAI-SearchBot AI 爬虫
开发商
OpenAI
用户代理
OAI-SearchBot
通过 Robots.txt 拦截
User-agent: OAI-SearchBot
Disallow: /
把以上片段加入网站根目录的 robots.txt 即可要求该蜘蛛停止抓取全部页面(需改为只拦某个目录,把 Disallow: / 换成对应路径)。 注意:OAI-SearchBot 抓取的内容用于 AI 模型训练与问答,不参与搜索引擎收录,拦截它不影响你在搜索结果中的排名;如不希望站点内容被用于 AI 训练,建议直接按上方片段拦截。

详细介绍

OAI-SearchBot 负责为 ChatGPT 的搜索功能建立索引,与训练用的 GPTBot 相互独立。若希望站点出现在 ChatGPT 搜索结果中,应放行该爬虫。
💡 本篇收录于搜索引擎蜘蛛大全」, 配合「网站日志分析工具」可自动识别该蜘蛛在日志中的访问与抓取页面。

同类蜘蛛推荐