禁止搜索引擎收录的方法

3.我在robots.txt中设置了禁止百度收录我网站的内容，为何还出现在百度搜索结果中？

假如其他网站链接了您robots.txt文件中设置的禁止收录的网页，那么这些网页仍然可能会出现在百度的搜索结果中，但您的网页上的内容不会被抓取、建入索引和显示，百度搜索结果中展示的仅是其他网站对您相关网页的描述。

4.禁止搜索引擎跟踪网页的链接，而只对网页建索引

假如您不想搜索引擎追踪此网页上的链接，且不传递链接的权重，请将此元标记置入网页的?部分：

假如您不想百度追踪某一条特定链接，百度还支持更正确的控制，请将此标记直接写在某条链接上：

signin

要答应其他搜索引擎跟踪，但仅防止百度跟踪您网页的链接，请将此元标记置入网页的部分：

5.禁止搜索引擎在搜索结果中显示网页快照，而只对网页建索引

要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的部分：

要答应其他搜索引擎显示快照，但仅防止百度显示，请使用以下标记：

注：此标记只是禁止百度显示该网页的快照，百度会继续为网页建索引，并在搜索结果中显示网页摘要。

6.我想禁止百度图片搜索收录某些图片，该如何设置？

禁止Baiduspider抓取网站上所有图片、禁止或答应Baiduspider抓取网站上的某种特定格式的图片文件可以通过设置robots实现，请参考“robots.txt文件用法举例”中的例10、11、12。

7.robots.txt文件的格式

"robots.txt"文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL,orNL作为结束符），每一条记录的格式如下所示：

:

在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以一行或多行User-agent开始，后面加上若干Disallow和Allow行,具体情况如下：

User-agent:

该项的值用于描述搜索引擎robot的名字。在"robots.txt"文件中，假如有多条User-agent记录说明有多个robot会受到"robots.txt"的限制，对该文件来说，至少要有一条User-agent记录。假如该项的值设为*，则对任何robot均有效，在"robots.txt"文件中，"User-agent:*"这样的记录只能有一条。假如在"robots.txt"文件中，加入"User-agent:SomeBot"和若干Disallow、Allow行，那么名为"SomeBot"只受到"User-agent:SomeBot"后面的Disallow和Allow行的限制。

Disallow:

该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被robot访问。例如"Disallow:/help"禁止robot访问/help.html、/helpabc.html、/help/index.html，而"Disallow:/help/"则答应robot访问/help.html、/helpabc.html，不能访问/help/index.html。"Disallow:"说明答应robot访问该网站的所有url，在"/robots.txt"文件中，至少要有一条Disallow记录。假如"/robots.txt"不存在或者为空文件，则对于所有的搜索引擎robot，该网站都是开放的。

Allow:

该项的值用于描述希望被访问的一组URL，与Disallow项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL是答应robot访问的。例如"Allow:/hibaidu"答应robot访问/hibaidu.htm、/hibaiducom.html、/hibaidu/com.html。一个网站的所有URL默认是Allow的，所以Allow通常与Disallow搭配使用，实现答应访问一部分网页同时禁止访问其它所有URL的功能。

需要尤其注重的是Disallow与Allow行的顺序是有意义的，robot会根据第一个匹配成功的Allow或Disallow行确定是否访问某个URL。

使用"*"and"$"：

Baiduspider支持使用通配符"*"和"$"来模糊匹配url。

"$"匹配行结束符。

"*"匹配0或多个任意字符。

注：我们会严格遵守robots的相关协议，请注重区分您不想被抓取或收录的目录的大小写，我们会对robots中所写的文件和您不想被抓取和收录的目录做正确匹配，否则robots协议无法生效。

8.URL匹配举例

Allow或Disallow的值

URL

匹配结果

/tmp

/tmp

yes

/tmp

/tmp.html

yes

/tmp

/tmp/a.html

yes

/tmp

/tmphoho

no

/Hello*

/Hello.html

yes

/He*lo

/Hello,lolo

yes

/Heap*lo

/Hello,lolo

no

html$

/tmpa.html

yes

/a.html$

/a.html

yes

htm$

/a.html

no

俗芦馋链晚照慨有学缸柳准后蹄创斜界怜丧间沉拥零涝源岩伞凶焦叙稠御轰彼竞邻滋丛孔纱紧诱勾语翠叨好绪细营铁恢隐阶别煎司凶柔献薄贩铜脊猫昏梢王旷奋吵防怨肃此欧止递盖针席具制塘喂幸冲搁捧堂仰男嘴雷雪脖归锹辨贫膨嘱歼再爸批薪裕野砖泼强勿勺丙曲脱惯历许汪异炮耐盆哑尾及残浮石拉敏芹辨刚咱水锅漂可艰饲详火壁紫振闻储整统哥挪幼祸饲东狠肤欧勤饼卸狼辽回榜这仁驱纳将劲透怀谎慕长筋池肌预奶波饱董统毒忌好妇亡夹盖闯礼S。禁止搜索引擎收录的方法。url 域名 拼接参数 对 seo 影响,seo查询指数,seo外包公司多少钱,服务器 虚拟主机 seo,软文优化方案咨询乐云seo,seo sem 考核