网站收录慢怎么排查:Sitemap生成与主动推送的配置顺序
新站或改版后收录慢,Sitemap 和主动推送该怎么配?结论是先别急着提交 Sitemap。判断顺序应该是:抓取链路是不是通的,比内容多不多更重要。同一篇文章如果能在多个地址下被打开,爬虫会把它当成重复内容处理;站点地图如果没覆盖到新增内容,推送就是在给一个空地址排队。按伪静态规则、站点地图、链接推送、robots 复核这个顺序走一遍,多数新站和改版站的收录问题能在几天内看出变化。
先分清是抓取没到位,还是内容不被需要
两类问题的表现不一样。抓取没到位的特征是:站内能打开、站点地图里能看到地址,但索引量长期不涨;内容不被需要的特征是:已经收录的页面也有,但进站的搜索词极少,说明收录正常而需求侧弱。
分辨方法很直接:挑三篇刚发布的文章,把它们的完整地址放到抓取检测里看返回状态码。返回 200 且内容完整,说明问题在内容侧;返回 302、404 或者拿到的正文是空的,说明问题在链路侧,后面的配置调整才有意义。
第一步:把地址收进伪静态规则
伪静态规则决定一篇文章对外呈现成什么样。规则没配好的典型后果有两个:同一内容带参数和不带参数都能打开,列表页翻页时生成一堆实际指向同一篇的地址。
要做的三件事:把文章地址统一成固定层级,例如按分类加日期加标识;把带参数的旧地址通过 301 重定向指向规范地址;确认首页、列表页、详情页三级的规则互相不覆盖。这一步做完之前,站点地图里的地址都可能是”暂时地址”,后面还要返工。
第二步:站点地图要覆盖新增内容
Sitemap 的作用不是提高权重,而是把”站内有哪些地址、哪个是新添的”这件事讲清楚。要检查四点:能不能自动生成;新增文章后多久出现在里面;分页、分类归档、标签归档有没有一起纳入;文件本身能不能直接访问。
常见的错法是把站点地图做成一次性的静态文件,上线当天生成一份就不再更新。这样发布的新内容只能等爬虫自己摸到,收录速度反而更慢。内容管理系统侧要保证站点地图随内容变化自动重建。
第三步:主动推送的时机和频控
链接推送(主动推送)解决的是发现时间,百度推送和 Bing 的接口都按提交量计费额度,所以提交什么、什么时候提交很关键。
正确的时机是:页面已经能通过规范地址访问、且已经出现在站点地图里之后,再推送这一条地址。反过来先推送再改伪静态规则,推送过去的是旧地址,等于把额度花在会被跳转的链接上。
频控上建议每天固定时段批量提交当天新增与更新的地址,而不是短时间内一次性灌入几千条。大批量提交容易触发接口侧的限制,失败结果如果不回看,会误以为已经推送成功。
robots 复核:两条最常挡路的规则
Robots 文件管的是爬虫能不能访问某个路径,它有三个经常被误解的边界:它只能限制抓取,不能用来把已经公开链接的页面从结果里彻底藏起来;根目录下的这个文件本身如果被 Disallow,站点地图也会一并不可达;它对索引指令没有约束力,需要控制索引时要走页面内的元标签或响应头。
检查时看两处即可:Sitemap 指向的那个文件路径没有被 Disallow;后台管理、预览参数、内部搜索这类真正不需要抓取的路径才做限制。
改版期要多做的一件事
改版必然带来地址变动。上线当天先做跳转表:旧地址到新地址一对一对应,全部用永久重定向处理,不要整站跳首页。跳转表生效后,把新地址重新提交一遍,旧地址留在站点地图之外的地方慢慢失效。改版当天没有做一对一跳转,索引量下跌往往要几周才能回来,而且很难定位是哪一批页面掉的。
常见问题
收录慢是不是域名备案导致的?不是。备案影响的是能否在国内节点提供服务,与页面是否被收录没有直接关系,链路检查仍然按上面的顺序做。
站点地图提交多少次才算到位?每次内容结构变化后重新提交一次即可,日常新增靠主动推送,不需要反复提交同一个文件。
文章删了为什么还在索引里?删除正式文档在系统里是移入回收站,对外地址仍然可访问;要让检索侧失效,需要真正把该地址下线并返回正确状态码,再配合 301 重定向指向替代内容。
定时发布的内容要推送吗?要。上线那一刻就推送,比等第二天再提交更快,也能让更新节奏更可预测。