搜索引擎爬虫 —— 开发商、用户代理 UA 与 robots.txt 拦截方法
User-agent: YandexBot User-agent: YandexImages User-agent: YandexMobileBot Disallow: /
robots.txt
Disallow: /