发现某篇文章迟迟不进索引,很多人的第一反应是回去改标题、加内容、调关键词。但如果被卡住的不止一篇,或者内容质量相近的页面表现差异很大,问题往往不在那一页,而在全站层面。先分清是单页问题还是站级问题,能省下大量无效修改。
先做横向对照,再决定从哪下手
不要只盯着一个 URL。把最近发布的十几二十个页面拉出来,按发布时间和页面类型分组,看三件事:
- 是只有个别页面慢,还是同一批页面都慢;
- 是某个栏目慢,还是全站都慢;
- 是老页面更新后反应也慢,还是只有新页面慢。
如果同一批、跨栏目、新老页面都慢,基本可以判断是站级问题。反过来,只有某个栏目或某类模板的页面慢,更可能是单页或模板层面的问题。
站级问题常见的几种表现
抓取频次被低价值 URL 稀释
搜索蜘蛛每天用在站上的抓取量不是无限的。如果站内存在大量参数页、筛选结果页、空结果页和重复列表页,抓取请求会先被这些 URL 消耗掉,真正有内容的页面只能排队。表现是日志里抓取次数不少,但抓到的多是没什么价值的地址。
服务器响应不稳定
如果页面的响应时间经常超过两三秒,或者偶发 5xx、超时,抓取会主动降速。这种降速是全站性的,不会只影响某一个页面,但感知上往往体现在“新页面迟迟不来抓”。
内链结构把新页面放在了边缘
新页面如果只能从深层列表页进入,或者入口只有一个不常更新的聚合页,被发现的优先级就会偏低。检查新页面距离首页的点击深度,以及是否有稳定的站内入口。
站点整体信号偏弱
外链、真实访问、历史内容质量这些站级信号会影响抓取的积极程度。新站或长期内容稀薄的站点,抓取频次本身就低,此时单页再怎么优化,能起的作用也有限。
单页问题通常长什么样
如果对照下来只有个别页面慢,可以按下面的顺序查:
- 这个 URL 是否被 robots.txt 或页面上的 noindex 挡住;
- 页面内容是否与站内其他页面高度重合;
- canonical 是否指向了别的地址;
- 页面是否有明确的站内入口,而不是孤岛。
这几点都正常,再考虑内容本身是否太单薄。
处理顺序:先收口,再优化
站级问题的处理往往比改页面更慢,但优先级更高。比较合理的顺序是:先清理明显低价值的 URL,比如空结果页和重复参数页,把抓取请求让出来;再确认服务器响应稳定;之后才考虑内链和页面本身的调整。如果顺序反了,页面改了一轮而抓取环境没变,结果通常也不会有明显变化。
收录速度没有统一标准。站级抓取环境改善后,通常需要一段时间才能在日志和收录状态上看到变化。把观察周期拉到几周,比每天刷新更有参考价值。