網站收錄

收錄自查:固定一份抽样 URL 清單,把抓取、索引和展示分開记錄

收錄數字天天變,單看總數很容易誤判。更實用的做法是先固定一份分层抽样的 URL 清單,再给每個 URL 分別记錄是否被抓、是否進索引、能否搜到三件事,按固定节奏對比狀態變化。這样出問题时能快速判断卡在發現、抓取、索引還是展示环节。

網站收錄

收錄自查:固定一份抽样 URL 清單,把抓取、索引和展示分開记錄

收錄這件事最容易走進的誤区,是每天盯着 site 查询的總數看涨跌。總數受索引更新、抽样方式、地区节点影响,單日變動說明不了太多。更有用的做法是固定一份自己的頁面清單,按固定节奏记錄狀態,用趋势判断問题出在抓取、索引還是展示。

一、先固定观察對象,別每次換样本

每次查不同的 URL,等于每次都重新開一次局,資料之間没法比。可以按頁面類型分层抽样,每類固定 20 到 50 個 URL:

  • 核心頁:首頁、主要栏目頁、主推产品或文章頁,用来判断整体健康度。
  • 新發布頁:近 7 天、30 天新增的頁面,用来看發現與抓取速度。
  • 辅助頁:分類、标簽、分頁、篩選頁,用来看抓取配額是否被消耗。
  • 歷史頁:半年以上没有變動過的頁面,用来看索引是否被回收。

清單放在一張表里就够,字段不需要多:URL、頁面類型、首次记錄日期、最近抓取日期、索引狀態、备注。重点是字段稳定,中途不要改口径。清單只增不减,新頁面從發布当天就開始记。

二、每個 URL 只记三件事

  1. 抓到了吗:看服務器日誌里的訪問记錄,或者後台的抓取統計。這一步只回答蜘蛛来没来。
  2. 進索引了吗:用精确匹配的方式查這個 URL,或者看索引類报告里的狀態字段。注意已抓取和已编入索引是两件事。
  3. 能搜到吗:拿頁面标题或一段獨特文字去搜,看结果里出現的是不是這個 URL,還是被別的版本替代了。
抓取、索引、展示是三段獨立的路。任何一段卡住,最後看到的現象都可能只是搜不到。记錄时分栏寫,別合成一個收錄或没收錄。

三、把狀態變化寫成一句话

记錄不要只寫正常或異常。狀態變化时补一句原因,比如新頁三天被抓、第五天進索引;老頁索引消失,同期日誌里没有抓取记錄;聚合頁被大量抓取,核心頁抓取次數下降。這些短句积累两三周後,規律會自己浮出来。

四、节奏比频率重要

每周固定同一天记錄一次,比每天看更有效。整站數字可以用来观察長期方向,但判断某個頁面是否正常,還是要回到這份清單。遇到波動先看两件事:同一批 URL 里變化的是少數還是多數;變化集中在哪一類頁面。只影响新頁,多半是發現和抓取的問题;只影响老頁,可能是内容更新後触發了重新處理。

五、几個常见的誤判点

  • 用不带限定的查询判断,把站内其他頁面当成了目标頁已收錄。
  • 把日誌里的 200 响應等同于進索引,中間還有解析和评估两段。
  • 把索引量下降直接当成惩罚,也可能是重复版本被合並了。
  • 頁面刚改版就下结论,索引刷新通常滞後于抓取。

六、什么时候该改,什么时候该等

如果连續两次记錄都顯示同一批新頁没有被抓,先检查内鏈入口、站点地图和 robots,這些是能主動調整的部分。如果頁面已经被抓但始终不入索引,先看内容是否與站内其他頁面高度重合、模板是否造成大面积相似,再决定合並、补充内容還是保留。如果只是索引狀態在几天内反复,通常不用马上動手,把观察周期拉長到两到三周更稳妥。

這套清單的價值不在于拿到一個好看的數字,而在于出問题时你能快速回答:問题出在發現、抓取、索引,還是展示。回答清楚了,動作才有方向。