建站学习网,专业提供各类建站教程,网页素材,SEO资讯等建站资源!

网站模板_网站源码_网站素材_建站教程_建站学习网

当前位置:建站学习网 > 站长学院 > 网站SEO >

禁止搜索引擎收录的方法

更新时间:2016-06-16整理编辑:建站学习网阅读:0
  一.什么是robots.txt文件?

  搜索引擎通过一种程序robot(又称spider),自动访问互联网上的网页并获取网页信息。

  您可以在您的网站中创建一个纯文本文件robots.txt,在这个文件中声明该网站中不想被robot访问的部分,这样,该网站的部分或全部内容就可以不被搜索引擎收录了,或者指定搜索引擎只收录指定的内容。

  二. robots.txt文件放在哪里?

  robots.txt文件应该放在网站根目录下。举例来说,当robots访问一个网站(比如http://www.abc.com)时,首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件,如果机器人找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。

  三. robots.txt文件的格式

  "robots.txt"文件包含一条或更多的记录,这些记录通过空行分开(以CR,CR/NL, or NL作为结束符),每一条记录的格式如下所示:

  "<field>:<optionalspace><value><optionalspace>"。

  在该文件中可以使用#进行注解,具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始,后面加上若干Disallow行,详细情况如下:

  User-agent:

  该项的值用于描述搜索引擎robot的名字,在"robots.txt"文件中,如果有多条User-agent记录说明有多个robot会受到该协议的限制,对该文件来说,至少要有一条User-agent记录。如果该项的值设为*,则该协议对任何机器人均有效,在"robots.txt"文件中,"User-agent:*"这样的记录只能有一条。

  Disallow :

  该项的值用于描述不希望被访问到的一个URL,这个URL可以是一条完整的路径,也可以是部分的,任何以Disallow 开头的URL均不会被robot访问到。例如"Disallow: /help"对/help.html 和/help/index.html都不允许搜索引擎访问,而"Disallow: /help/"则允许robot访问/help.html,而不能访问/help/index.html。

  任何一条Disallow记录为空,说明该网站的所有部分都允许被访问,在"/robots.txt"文件中,至少要有一条Disallow记录。如果"/robots.txt"是一个空文件,则对于所有的搜索引擎robot,该网站都是开放的。

  四. robots.txt文件用法举例

  例1. 禁止所有搜索引擎访问网站的任何部分

  User-agent: *
  Disallow: /

  例2. 允许所有的robot访问

  (或者也可以建一个空文件 "/robots.txt" file)

  User-agent: *
  Disallow:

  例3. 禁止某个搜索引擎的访问

  User-agent: BadBot
  Disallow: /

  例4. 允许某个搜索引擎的访问

  User-agent: baiduspider
  Disallow:
  User-agent: *
  Disallow: /

  例5. 一个简单例子

  在这个例子中,该网站有三个目录对搜索引擎的访问做了限制,即搜索引擎不会访问这三个目录。

  需要注意的是对每一个目录必须分开声明,而不要写成 "Disallow: /cgi-bin/ /tmp/"。

  User-agent:后的* 具有特殊的含义,代表"any robot",所以在该文件中不能有"Disallow: /tmp/*" or "Disallow: *.gif"这样的记录出现.

  User-agent: *
  Disallow: /cgi-bin/
  Disallow: /tmp/
  Disallow: /~joe/

本文网址:https://www.dedexuexi.com/zz/seo/852.html

文章搜集与网络,如有侵权请联系本站,转载请说明出处。

收藏此文 赞一下!() 打赏本站

如本文对您有帮助,就请建站学习网抽根烟吧!

支付宝打赏
微信打赏
网站URL的SEO优化方法!
« 上一篇2016年06月11日
手机网站的优化细节知多少
2016年06月11日下一篇 »
  • 文章加ASCII码对搜索引擎优化有什么作用?
    0阅读
    什么是ascii码?在计算机中,所有的数据在存储和运算时都要使用二进制数表示(因为计算机用高电平和低电平分别表示1和0),例如,象a、b、c、d这样的52个字母(包括大写)、以及0、1等数字还有一些常用的符号(例如*、#、@等)在计算机中存储时也要使用二进制数来表示,而具体用哪些二进制数字表示哪个符...
  • 修改Hosts解析域名有什么作用?
    0阅读
    包括建站学习网SEO网站在内的很多站长,因为网站牵扯到cd啊,或者因为其他的种种原因,需要做一下修改host解析域名。本文讲一下修改Hosts解析域名有什么作用,文章核心内容为转载搜集,仅作分享。1.加快域名解析 对于要经常访问的网站,我们可以通过在Hosts中配置域名和IP的映射关系,这样当我们输...
  • 网站怎样才能快速收录?
    0阅读
    网站想要被百度快速收录,以下因素都十分重要:域名/服务器对于网站来说,优质的域名和服务器是十分重要的。服务器:要求比较简单,最好是国内服务器,速度稳定访问快,网站初期可能要求不是很高,随着网站内容越来越多,访问量增加,可能要考虑扩容。前期最重要是稳定性!服务器随便买买就行了,域名是最重要的因素了,三...
  • 新手如何入门做黑帽SEO
    0阅读
    白帽和黑帽的区别白帽SEO是一种公正的手法,是使用符合主流搜索引擎发行方针规定的seo优化方法。它是与黑帽seo相反的。白帽SEO一直被业内认为是最佳的SEO手法,它是在避免一切风险的情况下进行操作的,同时也避免了与搜索引擎发行方针发生任何的冲突,它也是SEOer从业者的最高职业道德标准。黑帽seo...
  • 百度不收录的原因和解决方法
    0阅读
    建站学习网SEO网站首页一直不收录,进行了很多次百度站长问题反馈,但是得到的回复都是一样的。百度客服反馈不收录首页的原因如下:您好,网页是否收录是根据内容质量和用户需求综合判断,目前反馈网页质量仍需要提升,未收录是符合预期的,如果希望有更多的网页内容被百度收录,请参考搜索学院相关规范“百度搜索引擎网...
 
QQ在线咨询

添加微信客服