收录这件事最容易走进的误区,是每天盯着 site 查询的总数看涨跌。总数受索引更新、抽样方式、地区节点影响,单日变动说明不了太多。更有用的做法是固定一份自己的页面清单,按固定节奏记录状态,用趋势判断问题出在抓取、索引还是展示。
一、先固定观察对象,别每次换样本
每次查不同的 URL,等于每次都重新开一次局,数据之间没法比。可以按页面类型分层抽样,每类固定 20 到 50 个 URL:
- 核心页:首页、主要栏目页、主推产品或文章页,用来判断整体健康度。
- 新发布页:近 7 天、30 天新增的页面,用来看发现与抓取速度。
- 辅助页:分类、标签、分页、筛选页,用来看抓取配额是否被消耗。
- 历史页:半年以上没有变动过的页面,用来看索引是否被回收。
清单放在一张表里就够,字段不需要多:URL、页面类型、首次记录日期、最近抓取日期、索引状态、备注。重点是字段稳定,中途不要改口径。清单只增不减,新页面从发布当天就开始记。
二、每个 URL 只记三件事
- 抓到了吗:看服务器日志里的访问记录,或者后台的抓取统计。这一步只回答蜘蛛来没来。
- 进索引了吗:用精确匹配的方式查这个 URL,或者看索引类报告里的状态字段。注意已抓取和已编入索引是两件事。
- 能搜到吗:拿页面标题或一段独特文字去搜,看结果里出现的是不是这个 URL,还是被别的版本替代了。
抓取、索引、展示是三段独立的路。任何一段卡住,最后看到的现象都可能只是搜不到。记录时分栏写,别合成一个收录或没收录。
三、把状态变化写成一句话
记录不要只写正常或异常。状态变化时补一句原因,比如新页三天被抓、第五天进索引;老页索引消失,同期日志里没有抓取记录;聚合页被大量抓取,核心页抓取次数下降。这些短句积累两三周后,规律会自己浮出来。
四、节奏比频率重要
每周固定同一天记录一次,比每天看更有效。整站数字可以用来观察长期方向,但判断某个页面是否正常,还是要回到这份清单。遇到波动先看两件事:同一批 URL 里变化的是少数还是多数;变化集中在哪一类页面。只影响新页,多半是发现和抓取的问题;只影响老页,可能是内容更新后触发了重新处理。
五、几个常见的误判点
- 用不带限定的查询判断,把站内其他页面当成了目标页已收录。
- 把日志里的 200 响应等同于进索引,中间还有解析和评估两段。
- 把索引量下降直接当成惩罚,也可能是重复版本被合并了。
- 页面刚改版就下结论,索引刷新通常滞后于抓取。
六、什么时候该改,什么时候该等
如果连续两次记录都显示同一批新页没有被抓,先检查内链入口、站点地图和 robots,这些是能主动调整的部分。如果页面已经被抓但始终不入索引,先看内容是否与站内其他页面高度重合、模板是否造成大面积相似,再决定合并、补充内容还是保留。如果只是索引状态在几天内反复,通常不用马上动手,把观察周期拉长到两到三周更稳妥。
这套清单的价值不在于拿到一个好看的数字,而在于出问题时你能快速回答:问题出在发现、抓取、索引,还是展示。回答清楚了,动作才有方向。