列表頁和分頁是站点结构里最容易被忽略的一层。栏目頁、标簽頁、归档頁、搜尋结果頁,通常都靠翻頁把内容串起来。它們本身不直接承担主要的搜尋需求,却是蜘蛛爬行的重要通道。一旦翻頁規則没管好,站内很容易出現薄内容頁成堆、重复地址泛滥、抓取被拖慢的情况。下面這份自查清單,适合在改版前後各跑一遍。
分頁常见的三類問题
1. 翻頁 URL 形式不统一
同一個列表,可能同时存在几種翻頁地址:带參數的、伪静態的、带哈希的。用戶和蜘蛛從不同入口点進去,看到的其實是同一批内容,却拿到了不同的地址。久而久之,站内就會出現大量指向相同列表的重复 URL,站内權重被分散,蜘蛛也要反复爬取同一份資料。
2. 翻頁内容高度雷同
翻到第三頁以後,頁面上的标题、摘要、導航几乎没有区別,只有列表項在變。如果這些頁面被大量索引,站内就會堆积一批相似度极高的頁面,既占索引位,也占抓取時間。尤其是标簽頁、篩選頁、日期归档頁,很容易越滚越多。
3. 列表頁标题與描述缺省
不少模板會让分頁直接繼承栏目标题,導致第 2 頁到第 50 頁标题完全一样,描述也照抄栏目简介。這類頁面在搜尋结果里表現往往很差,還會和栏目主頁面互相竞争。
自查清單
- 翻頁地址是否只有一個版本。确定一種寫法並统一,其余形式用 301 或規則收敛,避免同一列表裂成多個入口。
- 分頁是否可被正常抓取。翻頁連結最好是可点击的 a 标簽,而不是 JS 拼接或按钮事件。列表底部要能顺着爬下去,別让蜘蛛只看到第一頁。
- 列表頁标题是否带上頁碼或范围。让分頁标题與主栏目有区分,但不要為了堆词硬拼關鍵詞。
- 描述是否随頁變化。如果無法逐頁生成,至少不要让所有分頁共用一段長描述。
- 深分頁是否需要被索引。通常栏目前几頁有保留價值,几十頁之後的翻頁可以考虑不索引,但連結仍要保留,方便蜘蛛顺着爬到更早的内容。
- 篩選與排序參數是否可控。多條件组合會生成數量惊人的地址,建议只放行有實际搜尋需求的组合。
- 搜尋站内结果頁是否被放開。站内搜尋頁通常是薄内容,預設應關閉索引。
- 列表頁是否有内容摘要。纯标题列表價值有限,适当加入摘要或配图,頁面本身也更有意义。
處理时的几個注意点
不要把翻頁全部封死
翻頁是蜘蛛發現歷史内容的重要路径。直接對分頁整段屏蔽,可能導致較早發布的文章長期不被發現。更稳妥的做法是让連結保持可爬,僅通過索引指令控制是否進入索引。
分頁不要指向自己
canonical 指向第一頁或栏目主頁面,會让後續頁面的内容信号被合並,但如果所有分頁都指向同一地址,也可能让蜘蛛放弃抓取深层列表。建议按站点規模决定策略,並在改動後观察日誌里的抓取分布。
列表頁數量要有人管
标簽、作者、日期归档這類頁面,往往在内容增長後自動膨胀。建议定期統計各類型列表的頁面數量,對没有訪問量、没有入口的列表做合並或下线,而不是任由它自然繁殖。
改完要看資料
調整分頁規則後,通過服務器日誌观察蜘蛛對列表頁與詳情頁的抓取比例,確認内容頁的抓取没有下降。如果没有日誌,也可以用站長工具里的抓取統計做粗略對比。
分頁本身不是問题,問题在于没人给它定規矩。把 URL 形式、标题描述、索引范围和數量上限定下来,列表頁就能繼續当好通道,而不是變成站内的内容垃圾场。