月光博客 » 搜索引擎 » 搜索引擎的Robots协议

搜索引擎的Robots协议

  robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

  robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

  对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。

  <meta name="googlebot" content="noindex">

  如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

搜索引擎的Robots规则

  对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

  <meta name="Baiduspider" content="noarchive">

  上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

  例如,淘宝网目前就通过robots.txt来屏蔽百度爬虫,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,第一个结果也是淘宝网首页地址,只是该页面没有网页快照,因此看来,网站只能禁止百度的快照,而无法禁止百度为网页建索引。

搜索引擎的Robots协议

顶一下 ▲()   踩一下 ▼()

相关文章

  1. 1
    小宇   说道:
    作为知名站点 百度有义务提供淘宝网的真实地址: 如果淘宝禁止了百度蜘蛛。那么百度就不提供真实地址在百度的话。 消费者被骗了谁负责?
    site淘宝 百度对于淘宝网的收录是0
    但是你搜索淘宝网 他给你提供真实地址这是很正确的。
    支持(17反对(9回复
  1. 2
    Dollarin   说道:
    在这说句小互的坏话,月光比小互专业多了,小互还是更适合八卦。
    支持(13反对(8回复
  1. 3
    小打oye   说道:
    爲什麽不直接封ip呢?
    裸奔的兔子 于 2012-9-3 10:26:20 回复
    直接封IP是不现实的,搜索引擎这么多,每个搜索引擎的蜘蛛又是那么多,怎么可能封得完。。。只有大家约定一个协议,通过规则来抓取,这才是王道。
    支持(11反对(6回复
  1. 4
    stanleyxu2005   说道:
    要补充一点,不管有没有robots文件的约束,搜索爬虫只能通过公开的链接去抓网页,分析网页里面的链接,再去抓更多的网页。而360搜索可以抓到额外的链接,这是流氓行径。之前网上有人帖出相关证据 t.cn/zWEWXGG t.cn/zWEWXGG
    支持(12反对(7回复
  1. 5
    zxwu   说道:
    防君子不防小人的
    支持(11反对(7回复

发表留言


点击更换验证码