网站收录

收录自查:固定一份抽样 URL 清单,把抓取、索引和展示分开记录

收录数字天天变,单看总数很容易误判。更实用的做法是先固定一份分层抽样的 URL 清单,再给每个 URL 分别记录是否被抓、是否进索引、能否搜到三件事,按固定节奏对比状态变化。这样出问题时能快速判断卡在发现、抓取、索引还是展示环节。

网站收录

收录自查:固定一份抽样 URL 清单,把抓取、索引和展示分开记录

收录这件事最容易走进的误区,是每天盯着 site 查询的总数看涨跌。总数受索引更新、抽样方式、地区节点影响,单日变动说明不了太多。更有用的做法是固定一份自己的页面清单,按固定节奏记录状态,用趋势判断问题出在抓取、索引还是展示。

一、先固定观察对象,别每次换样本

每次查不同的 URL,等于每次都重新开一次局,数据之间没法比。可以按页面类型分层抽样,每类固定 20 到 50 个 URL:

  • 核心页:首页、主要栏目页、主推产品或文章页,用来判断整体健康度。
  • 新发布页:近 7 天、30 天新增的页面,用来看发现与抓取速度。
  • 辅助页:分类、标签、分页、筛选页,用来看抓取配额是否被消耗。
  • 历史页:半年以上没有变动过的页面,用来看索引是否被回收。

清单放在一张表里就够,字段不需要多:URL、页面类型、首次记录日期、最近抓取日期、索引状态、备注。重点是字段稳定,中途不要改口径。清单只增不减,新页面从发布当天就开始记。

二、每个 URL 只记三件事

  1. 抓到了吗:看服务器日志里的访问记录,或者后台的抓取统计。这一步只回答蜘蛛来没来。
  2. 进索引了吗:用精确匹配的方式查这个 URL,或者看索引类报告里的状态字段。注意已抓取和已编入索引是两件事。
  3. 能搜到吗:拿页面标题或一段独特文字去搜,看结果里出现的是不是这个 URL,还是被别的版本替代了。
抓取、索引、展示是三段独立的路。任何一段卡住,最后看到的现象都可能只是搜不到。记录时分栏写,别合成一个收录或没收录。

三、把状态变化写成一句话

记录不要只写正常或异常。状态变化时补一句原因,比如新页三天被抓、第五天进索引;老页索引消失,同期日志里没有抓取记录;聚合页被大量抓取,核心页抓取次数下降。这些短句积累两三周后,规律会自己浮出来。

四、节奏比频率重要

每周固定同一天记录一次,比每天看更有效。整站数字可以用来观察长期方向,但判断某个页面是否正常,还是要回到这份清单。遇到波动先看两件事:同一批 URL 里变化的是少数还是多数;变化集中在哪一类页面。只影响新页,多半是发现和抓取的问题;只影响老页,可能是内容更新后触发了重新处理。

五、几个常见的误判点

  • 用不带限定的查询判断,把站内其他页面当成了目标页已收录。
  • 把日志里的 200 响应等同于进索引,中间还有解析和评估两段。
  • 把索引量下降直接当成惩罚,也可能是重复版本被合并了。
  • 页面刚改版就下结论,索引刷新通常滞后于抓取。

六、什么时候该改,什么时候该等

如果连续两次记录都显示同一批新页没有被抓,先检查内链入口、站点地图和 robots,这些是能主动调整的部分。如果页面已经被抓但始终不入索引,先看内容是否与站内其他页面高度重合、模板是否造成大面积相似,再决定合并、补充内容还是保留。如果只是索引状态在几天内反复,通常不用马上动手,把观察周期拉长到两到三周更稳妥。

这套清单的价值不在于拿到一个好看的数字,而在于出问题时你能快速回答:问题出在发现、抓取、索引,还是展示。回答清楚了,动作才有方向。