站点規模變大之後,很多頁面並不是一篇一篇寫出来的,而是系統按規則自動生成的:标簽列表、分類归档、作者頁、日期归档、站内搜尋结果頁,以及各種篩選组合頁。它們數量可观,有的甚至比正文頁還多。這些頁面要不要让搜尋引擎收錄,是收錄管理里绕不開的一道题。
先分清它們和正文頁的区別
自動聚合頁本身不带原创信息,内容来自两處:一是其他頁面的标题和摘要,二是生成規則。所以判断一個聚合頁有没有收錄價值,本质上是在判断它有没有提供正文頁之外的東西,比如更完整的分類视角、更明确的主题邊界、真實存在的用戶需求。
站内搜尋结果頁:多數情况下留不住
站内搜尋结果頁的問题在于它是按查询生成的。同一批内容,換個關鍵詞就是一個新 URL,组合數量几乎無限。這類頁面通常有几個共同点:
- 内容完全来自已有頁面,没有新增信息;
- URL 會随查询词大量繁殖,占用抓取资源;
- 用戶從搜尋结果進来看到的是一堆摘要,体驗往往不如直接進正文。
對這類頁面,比較常见的處理是给頁面加 noindex。這里有個容易踩的坑:如果用 robots.txt 直接屏蔽抓取,爬虫就讀不到頁面上的 noindex,頁面上寫不寫标簽都没用。想让頁面登出索引,優先用 noindex;想让爬虫別来抓,才用 robots.txt。
标簽頁和分類頁:看邊界是否清晰
标簽頁和分類頁比站内搜尋頁更有價值,因為它們對應的是固定主题,而不是临时查询。判断时可以參考几点:
- 标簽數量是否可控。一篇文章挂十几個标簽,很容易生成大量只有一两篇内容的薄頁面。
- 是否有獨立的搜尋需求。有人會直接搜這個主题词,頁面就值得保留;只是内部归類用,價值就低。
- 頁面上有没有补充信息。分類說明、編輯推荐、篩選後的差异說明,都算正文之外的内容。
如果發現一批标簽頁内容几乎相同,只差几篇文章,可以先考虑合並标簽,或者對内容過少的那部分统一處理,而不是一上来就全部 noindex。
日期归档和作者頁
日期归档對新闻類站点有意义,因為某年某月發生了什么本身就是需求;對更新不频繁的博客,按月归档往往只是索引邻居,價值有限。作者頁則要看作者是否持續产出、頁面有没有介绍内容。多人协作的站点里,一個只有一篇文章的作者頁通常不值得专门收錄。
處理时的几個操作建议
- 先看資料。在索引覆盖率报告和搜尋表現里,找出這些聚合頁實际被收錄、被点击的情况,別凭感觉一刀切。
- 能合並的先合並。标簽、分類重复的先做减法和归類,再决定是否 noindex。
- 区分不给收錄和不给抓取。要登出索引用 noindex,要减少抓取压力用 robots.txt,两者別混着用。
- 内鏈要跟上。决定保留的聚合頁,需要從導航或其他頁面鏈過去,否則它既没有内容優势,也缺少被發現的机會。
聚合頁的問题很少出在頁面本身,更多是數量失控。先收紧生成規則,再處理已经存在的存量,通常比逐個頁面調标簽省事。
最後提醒一点:判断标准會随站点阶段變化。早期标簽頁少、内容集中,留着無妨;到了几千上萬頁的規模,同样的規則就可能變成负担。定期回看這些頁面的收錄和点击資料,比一次性定死規則更實际。