青青子衿, 悠悠我心, 但为君故, 沉吟至今
« 浅析苹果三星专利战让企业博客更有阅读价值的五项建议 »

搜索引擎的Robots协议

  robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

  robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

  对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。

  <meta name="googlebot" content="noindex">

  如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

搜索引擎的Robots规则

  对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

  <meta name="Baiduspider" content="noarchive">

  上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

  例如,淘宝网目前就通过robots.txt来屏蔽百度爬虫,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,第一个结果也是淘宝网首页地址,只是该页面没有网页快照,因此看来,网站只能禁止百度的快照,而无法禁止百度为网页建索引。



  除非注明,月光博客文章均为原创,转载请以链接形式标明本文地址

  本文地址:http://www.williamlong.info/archives/3206.html
  • 文章排行:
  • 1.小宇
  • 作为知名站点 百度有义务提供淘宝网的真实地址: 如果淘宝禁止了百度蜘蛛。那么百度就不提供真实地址在百度的话。 消费者被骗了谁负责?
    site淘宝 百度对于淘宝网的收录是0
    但是你搜索淘宝网 他给你提供真实地址这是很正确的。
  • 2012/9/1 18:18:55   支持(16)反对(9) 回复
  • 2.Dollarin
  • 在这说句小互的坏话,月光比小互专业多了,小互还是更适合八卦。
  • 2012/8/31 18:17:30   支持(13)反对(8) 回复
  • 3.stanleyxu2005
  • 要补充一点,不管有没有robots文件的约束,搜索爬虫只能通过公开的链接去抓网页,分析网页里面的链接,再去抓更多的网页。而360搜索可以抓到额外的链接,这是流氓行径。之前网上有人帖出相关证据 t.cn/zWEWXGG t.cn/zWEWXGG
  • 2012/9/3 13:08:07   支持(12)反对(7) 回复
  • 4.小打oye
  • 爲什麽不直接封ip呢?
    裸奔的兔子 于 2012-9-3 10:26:20 回复
    直接封IP是不现实的,搜索引擎这么多,每个搜索引擎的蜘蛛又是那么多,怎么可能封得完。。。只有大家约定一个协议,通过规则来抓取,这才是王道。
  • 2012/8/31 23:35:54   支持(10)反对(6) 回复
  • 5.郭振兴
  • 个人认为淘宝还是需要百度收录他的首页的,不然淘宝会流失非常大的用户。
    万人往 于 2012-9-1 14:42:51 回复
    会对百度造成非常大的流量损失吧?你觉得人们是换个搜索引擎方便还是换个购物网站方便?
    六楼的雨 于 2012-9-1 20:06:14 回复
    robots确实不能阻止搜索引擎建立索引,毕竟网站是公开的,但是至少robots阻止搜索引擎之后,搜索引擎不会明目张胆的在搜索结果里网站内容。在百度搜索淘宝,也仅仅出现淘宝首页,淘宝里的各个网店的东西都不会出现的搜索结果里。
  • 2012/8/31 18:13:28   支持(17)反对(14) 回复
  • 7.向日葵媒体设计
  • 我一直想知道 为什么屏蔽 搜索引擎收录你的内容?
  • 2012/9/3 16:55:00   支持(9)反对(6) 回复
  • 8.李乐佳
  • 最重要的是Robots只是协议,不是命令
    裸奔的兔子 于 2012-9-3 10:29:14 回复
    就一君子协议罢了。
  • 2012/8/31 18:06:29   支持(7)反对(5) 回复
  • 9.刘__浩
  • 如果有些搜索引擎不管这个文件怎么办
  • 2012/8/31 18:20:30   支持(9)反对(7) 回复
  • 11.garyyu0001
  • 对某些人有效,有些人无效
  • 2012/8/31 19:03:33   支持(9)反对(8) 回复
  • 14.得意的那些事儿
  • 黑客最喜欢窃取这个文件,一些做得不安全的应用会把敏感目录放在网上,以为屏蔽了蜘蛛就不会泄露了后门。不知道在这里明文暴露。然后…都懂了。
    裸奔的兔子 于 2012-9-3 10:28:20 回复
    的确有这些2货的。。。
    一个私密的应用,后台等,可以通过IP来限制仅允许谁访问。。同时,将后台、管理路径等修改为非常用目录名,同时没面没有外链,就算不在robots.txt里标识禁止,被抓取的机会也是很低的。
  • 2012/8/31 19:07:33   支持(7)反对(7) 回复
  • 15.红火数据
  • 很实用,感谢月光哥的分享!
  • 2012/9/1 10:46:54   支持(7)反对(7) 回复
  • 16.梦天空周公解梦大全
  • 亲,noindex应该这样写吧。<meta name="noindex" content="googlebot">
  • 2012/9/3 13:14:39   支持(6)反对(6) 回复
  • 17.Dollarin
  • 没有robots.txt,private都是会访问的,度娘你说是不?
  • 2012/8/31 18:13:30   支持(9)反对(10) 回复
  • 18.温州市信息安全测评中心
  • 有几家公司遵守了?!
  • 2012/8/31 18:41:32   支持(7)反对(8) 回复
  • 21.linda
  • 回复上面的,如果是私人的博客,里面有自己的隐私,你愿意让搜索引擎搜索出来吗?
  • 2012/9/18 12:54:20   支持(5)反对(6) 回复
  • 22.无爱的巨蟹
  • 说白了这都是口头约定!
  • 2012/8/31 18:01:29   支持(6)反对(8) 回复
  • 23.shikan8敢死队2
  • 百度不是说360违反这个协议了吗?
    天空de云端 于 2012-9-8 5:55:07 回复
    百度贼喊捉贼,都不是什么好鸟!
  • 2012/9/1 12:51:26   支持(8)反对(10) 回复
  • 24.杨红林博客
  • 为什么要禁?又不是建不得人的事,哈哈!和楼上哥们想到一起!
  • 2012/9/4 11:33:05   支持(6)反对(8) 回复

发表评论:

 请勿发送垃圾信息、广告、推广信息或链接,这样的信息将会被直接删除。

订阅博客

  • 订阅我的博客:订阅我的博客
  • 关注新浪微博:关注新浪微博
  • 关注腾讯微博:关注腾讯微博
  • 关注认证空间:关注QQ空间
  • 通过电子邮件订阅
  • 通过QQ邮件订阅

站内搜索

热文排行


月度排行

本站采用创作共用版权协议, 要求署名、非商业用途和相同方式共享. 转载本站内容必须也遵循“署名-非商业用途-相同方式共享”的创作共用协议.
This site is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 3.0 License.