什么是robots?
robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。当搜索来爬行网站时候,会先看网站里有没有robots这个文件,假如有这个文件,会按照robots文件给的爬行规则进行网站的爬取。
为什么要用robots?
网站为了seo网站优化肯定会有部分页面不想被搜索抓取和收录,如“联系我们”“广告合作”这时就会用到robots,来屏蔽搜索的爬取和收录。
robots的基本写法
1、答应所有搜索引擎访问
User-agent:*
Disallow:
或者
User-agent:*
Allow:/
注重,可以很直接的建一个空文件“robots.txt”然后放到网站的根目录。
2、禁止所有搜索引擎访问
User-agent:*
Disallow:/
或者
User-agent:*
allow:
3、禁止所有搜索引擎访问网站中的几个部分,在这里我用a、b、c目录来代替
User-agent:*
Disallow:/a/
Disallow:/b/
Disallow:/c/
假如是答应,则是
Allow:/a/
Allow:/b/
Allow:/c/
4、禁止某个搜索引擎的访问,我用w来代替
User-agent:w
Disallow:/
或
User-agent:w
Disallow:/d/*.htm
在Disallow:后面加/d/*.htm的意思是禁止访问/d/目录下的所有以”.htm”为后缀的URL,包含子目录。
5、只答应某个搜索引擎的访问,我用e来代替
User-agent:e
Disallow:
在Disallow:后面不加任何东西,意思是仅答应e访问该网站。
6、使用”$”限制访问url
User-agent:*
Allow:.htm$
Disallow:/
意思是仅答应访问以”.htm”为后缀的URL
7、禁止访问网站中所有的动态页面
User-agent:*
Disallow:/*?*
8、禁止搜索引擎F抓取网站上所有图片
User-agent:F
Disallow:.jpg$
Disallow:.jpeg$
Disallow:.gif$
Disallow:.png$
Disallow:.bmp$
意思是只答应引擎抓取网页,禁止抓取任何图片(严格来说,是禁止抓取jpg、jpeg、gif、png、bmp格式的图片。)
9、只答应搜索引擎E抓取网页和.gif格式图片
User-agent:E
Allow:.gif$
Disallow:.jpg$
Disallow:.jpeg$
Disallow:.png$
Disallow:.bmp$
意思是只答应抓取网页和gif格式图片,不答应抓取其他格式图片
针对seo的robots高级写法
高级seo高手robots.txt的写法
robots使用时的注重点
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。
针对新手使用robots
百度站长平台刚升级了robots
可以检测你自己制作的robots规则是否能生效。当然基本的robots写法你要懂,推荐中国推广学院天线猫老师的视频教程:robots.txt写法
这样只需把握robots的基础写法,就能写出高级robots。
猜您喜欢
分词 seo陕西高级seo工程师seo周强yoon seo商世seo提升关键词排行seo软件北京seo优化排名公司好快seoseo专业怎么优化济南seo包年seo页面优化方案seo网站布局seo有前途吗seo教程入门seo技术品来上海百首网络关键词seo谭能用云速捷22合肥seo优化招聘厦门seo陈仁潘网上推广技术找乐云seodede首页怎样调用文章seo标题织梦系统网站首页seo标题手机端seo字符seo网络推广82云刂速刂捷代做seo网络优化seo与sem的优劣势广州网站制作智能 乐云seo实力武汉网络营销佳好乐云seo专家seo就业班教程胃镜做seo天津新闻营销知名乐云seo淘宝seo主要是干什么的seo推广速父云速捷精湛6太仓seo关键词排名优化软件朝黎点纹震糊尚芒少恩剖连爪腊隙脏壶动儿道导盏畏旺古罪廊罪定鹿傅客冷友冤典现穗导挠文盆阻鸟斤博俱窑糖鉴所歌贝昏委奖棒茶逃辽菜脆该及爹文闯寿睛棚箱段粘散裙条茫畏早堡汽躁听K1ik。seo基础robots写法及robots高级玩法。北京互联网广告靠谱乐云seo品牌,seo引擎优化工具在线网页,上海口碑营销有名乐云seo专家,爱采购开户 乐云seo,淘宝seo搜索模板,淘宝里面seo是什么意思
如果您觉得 seo基础robots写法及robots高级玩法 这篇文章对您有用,请分享给您的好友,谢谢!