網站收錄

收錄率一直上不去:按頁面類型分组排查,比只看總數更有用

收錄率上不去时,只看總數很难定位問题。本文建议把頁面按内容頁、聚合頁、分頁、參數頁分组,分別計算收錄比例,再结合狀態碼、canonical、内鏈入口和抓取日誌,判断是抓不到還是抓了不收,並给出一個可执行的排查顺序。

網站收錄

收錄率一直上不去:按頁面類型分组排查,比只看總數更有用

看收錄时,很多人只盯一個總數:站点有多少頁面,索引里有多少條,然後拿這個比例判断好坏。但總數是把商品頁、文章頁、标簽頁、列表頁、分頁和带參數的篩選頁混在一起算出来的,它更像一個平均气温,不能告诉你是哪儿在漏風。把頁面按類型拆開,各算各的收錄率,問题通常立刻就能看见。

先分组,再谈收錄率

分组不必很细,按頁面在站内的角色划分即可。關键是每一组内部的頁面,價值和處理策略要大致接近。

常用的一種分法

  • 内容頁:文章、商品詳情、文档頁,通常是希望被收錄的主体。
  • 列表與聚合頁:分類頁、标簽頁、专题頁,收錄價值取决于是否提供獨立信息。
  • 分頁:列表的第二頁往後,一般只留前几頁。
  • 參數與篩選頁:排序、價格区間、颜色尺寸等组合出来的 URL。
  • 功能頁:登入、购物车、站内搜尋结果頁、用戶中心,通常不需要收錄。

分好组後,分別用「该组已收錄數 ÷ 该组已知 URL 數」算比例。经驗上,内容頁偏高,聚合頁中等,分頁與參數頁偏低甚至接近零。如果低的是後两组,那多半不是故障,而是本就该收敛;如果内容頁也低,才需要真正動手。

几種典型形態,對應不同的問题

所有類型都低

說明問题不在頁面本身,而在更前面:站点整体抓取量不足、robots 或 meta 有誤屏蔽、服務器响應偏慢導致抓取中断,或者站点太新還在观察期。這时候先看抓取日誌和响應時間,比改頁面内容有用。

只有内容頁低

常见原因是同類内容過多、正文太短、模板化嚴重,頁面之間只換了标题和几行文字。搜尋引擎在這種情况下會挑一部分保留,剩下的走「已抓取未索引」。處理方向是合並相似頁面、补充獨立信息,而不是反复提交。

只有聚合與參數頁低

這是正常狀態。要確認的是這些頁面有没有在做無意义的内鏈分發:如果每一頁都鏈向几十個篩選组合,蜘蛛會把大量時間花在它們身上,内容頁反而排到後面。

新頁面低、老頁面正常

通常只是發現和抓取有延迟。检查新頁面有没有出現在 sitemap、有没有至少一條来自已收錄頁面的内鏈。没有任何入口的新頁面,只能等着被偶然發現。

抓取和收錄是两件事

日誌里看到蜘蛛频繁訪問,只能證明它来過,不能證明頁面進了索引。抓取之後還要经過内容抽取、重复判断、质量评估,最後才决定是否放入索引,以及放入哪一個版本。

  • 抓取正常、收錄為零:看内容是否與站内其他頁面高度重合,或者是否被 noindex、canonical 指向了別處。
  • 抓取很少、收錄尚可:說明抓取预算集中在了少數頁面,新頁面發現會慢。
  • 抓取多、收錄反复上下:常见于内容更新频繁但结构不稳定的頁面。
抓取是入口,收錄是结果。入口通畅不代表结果一定出現,中間還隔着去重、质量判断和索引選擇。

一個可执行的排查顺序

  1. 按頁面類型導出已知 URL,分组統計收錄比例,先定位是哪一组低。
  2. 對低收錄组抽查 10 到 20 個样本,逐個確認返回狀態碼、canonical、meta robots 是否正常。
  3. 把样本的正文互相比對,看是否存在大面积重复或模板文字占比過高。
  4. 检查這些頁面有没有内鏈入口,以及入口頁面自身是否已被收錄。
  5. 看服務器日誌中這一组的抓取频次與响應時間,判断是抓不到還是抓了不收。
  6. 確認後一次只做一件事:合並、补充内容、收敛入口,三選一,不要同时全做。

不要為了數字好看而做的事

  • 把不该收錄的功能頁强行提交,短期數字上升,長期會稀释整站的质量判断。
  • 為了凑量把相似頁面拆成更多 URL,重复内容只會让收敛更难。
  • 發現收錄率低就反复提交 sitemap,改變不了内容层面的判断。

收錄率是一個结果指标,不是可以直接優化的對象。把它拆成頁面類型,找到具体是哪一類在拖後腿,再回到内容和入口上去處理,動作會小很多,见效也更稳。