扬州网站优化,robots对seo的影响

阅读  ·  发布日期 2018-12-10 15:04  ·  admin

扬州网站优化,robots对seo的影响,很多新手朋友在刚做seo优化的时候对于robots协议一定很困惑,我刚进入seo行业也是这样,看了百度站长平台对于robots的规则也是云里雾里的,那时候一般就用讨巧的方法,看别人网站robots怎么写我就怎么写,现在想一想还是挺有意思的。

  要了解robots就一定要知道什么是robots,搜索引擎访问一个网站的时候,最先访问的文件就是robots.txt。robots告诉搜索引擎蜘蛛,哪些网站页面可以被抓取,哪些禁止抓取。表面来看,这个功能作用有限。但是从搜索引擎优化的角度来看,可以通过屏蔽页面,提高蜘蛛的爬行效率,从而达到集中权重的作用,所以说robots文件还是非常重要的。

  如何自己写robots文件呢?User-agent表示定义哪个搜索引擎,如User-agent:Baiduspider,定义百度蜘蛛。Disallow表示禁止访问。Allow表示运行访问。通过以上三个命令,可以组合多种写法,允许哪个搜索引擎访问或禁止哪个页面。一般写好的robots文件都是放在网站的根目录下面,这样方面搜索引擎蜘蛛第一时间抓取。

  相信通过以上的文章大家对于robots文件也有一定的了解,希望大家能好好运用。