抓取异常报告,这个板块很多人从来不看,但它是发现问题的好地方。
抓取异常报告会告诉你,搜索引擎尝试抓你的页面时遇到了什么错误。常见的错误类型有几种。第一种,服务器错误的,就是 5xx。这多半是你服务器出了问题,或者程序有bug。这种要赶紧修,因为服务器错误多了,搜索引擎会减少抓取。第二种,找不到页面,就是 404。这可能是你的链接失效了,或者页面被删了。第三种,访问被拒绝,可能是你的服务器配置挡了搜索引擎。第四种,重定向问题,跳转链太长或者跳转循环。
每种错误对应不同的问题。你要看的是它的数量和趋势。如果某类错误突然增加,那就是有新问题出现了。
处理这些错误的顺序,我一般是这样的。先看 5xx,这个最急,因为它影响搜索引擎对你整个站的信任。然后是拒绝访问,这个可能是配置问题,比如防火墙误拦了搜索引擎的 IP。再然后是 404,这个要看一下是哪些页面,如果是有外链的页面,要赶紧做跳转。最后是重定向问题,把跳转链捋直。
还有个细节,就是区分「新出现」和「一直有」。有些 404 是老早就有的,量稳定,那问题不大。但如果某个昨天还正常的页面今天突然 404 了,那要查为什么。
我处理这类问题的习惯是建个清单,把发现的问题记下来,一项项解决,解决完过两周再来看报告,确认问题没了。这个闭环很重要,不做闭环,你改了也不知道有没有改对。
抓取异常是搜索引擎在给你报错。你看了、修了,问题就解决了。不看,它就一直错下去。
—— 来自 图趣网 - 优秀网站分类目录 的分享