WordPress教程：Robots怎么设置？网站robots.txt规则设置分享

不会WordPress网站robots怎么设置？分享网站robots.txt规则设置分享，robots协议是添加到网站根目录的robots.txt 文件，是告诉搜索引擎哪些内容可以抓取，哪些内容不抓取，优化网站收录和权重。如何设置网站的robots协议呢？

WordPress网站，下面示例是挺好的设置：

User-Agent: *
Disallow:

Sitemap: https://www.xxxx.com/sitemap.xml

WordPress的robots.txt命令解析设置

1、User-agent：*

一般博客的robots.txt指令设置都是面对所有spider程序，用通配符“*”即可。如果有独立User-agent的指令规则，尽量放在通配“*”Useragent规则的上方。

2、Disallow：/wp-admin/

Disallow：/wp-content/

Disallow：/wp-includes/

屏蔽spider捉取程序文件，同时也节约了搜索引擎蜘蛛资源。

3、Disallow：/*/trackback

每个默认的文章页面代码里，都有一段trackback的链接，如果不屏蔽让蜘蛛去捉取，网站会出现重复页面内容问题。

4、Disallow：/feed

Disallow：/*/feed

Disallow：/comments/feed

头部代码里的feed链接主要是提示浏览器用户可以订阅本站，而一般的站点都有RSS输出和网站地图，故屏蔽搜索引擎捉取这些链接，节约蜘蛛资源。

5、Disallow：/?s=*

Disallow：/*/?s=*

这个就不用解释了，屏蔽捉取站内搜索结果。站内没出现这些链接不代表站外没有，如果收录了会造成和TAG等页面的内容相近。

6、Disallow：/?r=*

屏蔽留言链接插件留下的变形留言链接。(没安装相关插件当然不用这条指令)

7、Disallow：/*.jpg$

Disallow：/*.jpeg$

Disallow：/*.gif$

Disallow：/*.png$

Disallow：/*.bmp$

屏蔽捉取任何图片文件，在这里主要是想节约点宽带，不同的网站管理员可以按照喜好和需要设置这几条指令。

8、Disallow：/?p=*

屏蔽捉取短链接。默认头部里的短链接，百度等搜索引擎蜘蛛会试图捉取，虽然最终短链接会301重定向到固定链接，但这样依然造成蜘蛛资源的浪费。

9、Disallow：/*/comment-page-*

Disallow：/*?replytocom*

屏蔽捉取留言信息链接。一般不会收录到这样的链接，但为了节约蜘蛛资源，也屏蔽之。

10、Disallow：/a/date/

Disallow：/a/author/

Disallow：/a/category/

Disallow：/?p=*&preview=true

Disallow：/?page_id=*&preview=true

Disallow：/wp-login.php

屏蔽其他的一些形形色色的链接，避免造成重复内容和隐私问题。

10、Sitemap:http://***.com/sitemap.txt

网站地图地址指令，主流是txt和xml格式。告诉搜索引擎网站地图地址，方便搜索引擎捉取全站内容，当然你可以设置多个地图地址。要注意的就是Sitemap的S要用大写，地图地址也要用绝对地址。

上面的这些Disallow指令都不是强制要求的，可以按需写入。也建议站点开通谷歌管理员工具，检查站点的robots.txt是否规范。

好了，以上就是对利用robots.txt对wordpress博客进行优化的详细内容，希望可以帮助刚接触wordpress博客的同学。

文/来源：www.jianzhanhu.com/1996.html