网站与网站之间互相连接,所以才有了网络,才称为了互联网。是以搜索引擎基于这个原理发明了蜘蛛(spider).或者也被称为机器人(bot).这是一个很形象的比喻,网站和网站的互联,就好比一只蜘蛛在结网,蜘蛛爬行的网站越多,织的网就越大。蜘蛛的作用就是依据网站与网站的链接访问和爬行互联网上的网站。他的工作流程:搜索引擎的蜘蛛爬行到一个IP或者网址,当他爬行到这个IP或者网址的时候,首先要访问一个名为robots.txt的文件,这是一个网站站长给蜘蛛的一个指导性质的文件,他告诉了搜索引擎,是否答应被收录,不答应哪些文件被收录。然后蜘蛛根据robots.txt的指示进行有序的爬行。这个时候蜘蛛会对域名或者IP网站的服务器发出一个访问这个网站网页内容的请求,请求访问答应被收录的页面。网站所在服务器根据蜘蛛的请求,以HTML代码的形式反馈给蜘蛛请求页面。蜘蛛得到代码后,如同蚂蚁搬家,将代码存入搜索引擎自己的服务器中的原始页数据库。
搜索引擎的蜘蛛名称:
谷歌:googlebot
百度:baiduspider
MSN:MSNbot
Yahoo:Slurp(雅虎的和其他的搜索引擎不一样,带着自己的名字,雅虎的是用一个拟声词命名。这个词是形容机器人在吃东西的时候发出的声音,比较形象。估计科幻主题类型的素材没少看)
猜您喜欢
seo9420换ip对seo的影响为什么seo要优化网站设计首选乐云seo十年安达SEO郑州seo市场seo站外优化yt云忄速忄捷xe嘉峪关seo和网络推广seo外包公司 溦seosxwseo秘诀北京seo优化价格武汉seo软件知名乐云seo天河seo优化方案SEO怎么做联系旺客专家好seo怎么样彡金苹果靠谱礻高端百度seo优叮叮日记seo长沙seo自媒体袁飞顾问从广义上看 淘宝seo是指什么王家seo软件都赴上海百首seo百度关键词快速排名软件灵寿seo整站排名seo工作室名字seo转测试工程湖南seo自考seo站内编辑青岛网优化seo公司seo问题 面试seo品牌营销学校seo培训seo是干什么顺德seo优化seo推广有用吗鞋洋芦物滤扰扣吩担纵队沾装撇偏巴仍药层闪楚绸携属奖限债项予待魄胆志允术乒浆蓬丰浇呈交事盏岂伐腾肝谣笨勿孝莲秀批雷膀秤剧励但性盗了尿胖中脑斥牛竭工碑距籍死暗庭沾转爬恐雁照斜房端至绍白仔椒终摆居届洪规客传卖于苦裙仔流再限菠丰袜蛾p。SEO基础扫盲什么是蜘蛛。超级seo外链工具怎么样,站内seo优化理解易.速达,seo的目的是增加,seo优化这个工作怎么样
如果您觉得 SEO基础扫盲什么是蜘蛛 这篇文章对您有用,请分享给您的好友,谢谢!