robots协议(爬虫协议)

Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol),网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。举个简单的例子...

Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol),网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。

举个简单的例子:

User-agent: *
Disallow: /manager/
这个就是不允许所有网站访问后台

参考:百度百科:robots协议
  • 发表于 2017-03-07 23:10
  • 阅读 ( 104 )
  • 分类:互联网

你可能感兴趣的文章

相关问题

0 条评论

请先 登录 后评论
不写代码的码农
mni_Ya

28 篇文章

作家榜 »

  1. mni_Ya 28 文章
  2. qtb000 4 文章
  3. we 1 文章
  4. NEVER SETTLE 0 文章
  5. pengzhiqiang 0 文章
  6. 搁浅 0 文章
  7. 游荡在大马路上的大马猴 0 文章
  8. MGeek 0 文章