網站收錄

篩選和排序參數生成大量 URL:這些頁面要不要让搜尋引擎收錄

站点里的篩選、排序、跟踪參數會生成大量 URL,有些頁面内容几乎相同。本文從重复内容、抓取配額和 URL 規范角度,說明哪些參數頁值得保留、哪些應该收口,並给出可执行的检查顺序。

網站收錄

篩選和排序參數生成大量 URL:這些頁面要不要让搜尋引擎收錄

很多站点在商品列表、文章归档或搜尋结果頁里,會通過 URL 參數實現篩選、排序和跟踪。颜色、價格区間、排序方式、来源渠道,每選一次就生成一個新地址。這些地址积累起来,可能比正式内容頁還多。搜尋引擎收錄一部分之後,站内會出現大量内容相近的頁面,抓取配額也被分散。要不要让這些參數 URL 被收錄,不能一刀切,得看它有没有獨立價值。

先分清參數類型

參數 URL 大致可以分成几類,處理方式不同:

  • 篩選參數:如颜色、尺寸、品牌、價格区間。有些篩選组合有明确搜尋需求,比如“某品牌 连衣裙”;大部分冷门组合只是给站内用戶用的。
  • 排序參數:如按價格、销量、上架時間排序。同一批商品只是顺序不同,頁面主体内容几乎一样,通常没有獨立收錄價值。
  • 跟踪參數:如 utm、ref、from 等。它們不影响頁面内容,但會生成不同 URL,最好在服務器或前端统一處理,不让蜘蛛抓到。
  • 會话或临时參數:如 sessionid、timestamp。這類參數會無限變化,容易把蜘蛛带入無意义的地址,一般直接屏蔽。
  • 分頁參數:如 page=2。分頁本身有導航價值,但深层分頁是否收錄,要看列表頁内容和用戶需求。

常见收錄問题

參數 URL 如果放任不管,最常见的影响有三個:

  • 重复内容:同一批商品不同排序或篩選,标题和描述可能只差几個词,搜尋引擎需要花時間判断哪個是主版本。
  • 索引膨胀:大量低质參數頁被收錄後,索引里充斥着相似地址,真正重要的頁面反而被稀释。
  • 抓取浪費:蜘蛛顺着參數组合爬取,配額被消耗在無搜尋需求的頁面上,新内容或更新内容抓取變慢。

這些問题不一定立刻顯現,但站点規模變大後,排查收錄波動时會發現參數 URL 占比很高。

處理參數 URL 的几種做法

没有一種方法能解决所有情况,通常组合使用。

1. 用 canonical 指向規范版本

如果參數頁内容與某個主頁面高度重合,可以在參數頁上放 canonical,指向不带參數的版本。注意 canonical 是建议,不是强制,搜尋引擎仍可能選擇自己認為合适的版本。所以不要指望加了 canonical 就一定能收口。

2. 用 robots.txt 屏蔽無價值參數

對于跟踪參數、會话 ID 這類不需要收錄的地址,可以在 robots.txt 里用通配符屏蔽,例如屏蔽带 utm_ 或 sessionid 的路径。屏蔽後蜘蛛不會抓取,但已经收錄的頁面不會因此移除,需要配合其他方式。

3. 對低质參數頁使用 noindex

如果某個參數頁内容單薄、没有搜尋需求,可以在頁面上返回 noindex。但要注意,noindex 頁面仍會被抓取,只是不進入索引。如果大量頁面用 noindex,抓取配額依然被消耗。

4. 控制内鏈

蜘蛛主要通過内鏈發現地址。不要把所有篩選组合都做成可点击連結,尤其是组合數量巨大的情况。只把有獨立價值的篩選頁放進導航或列表頁,其他组合让用戶通過交互触發,但不生成可抓取的連結。

5. 分頁參數單獨考虑

分頁 URL 不建议直接屏蔽。列表頁的後續頁面可能包含獨立内容,也承担着把蜘蛛引向深层詳情頁的作用。如果分頁内容重复度高,可以在分頁上保留自引用 canonical,而不是指向第一頁。

判断一個參數頁有没有獨立價值

可以問几個問题:

  • 用戶會不會在搜尋引擎里搜這個篩選组合?比如“500 元以下 跑鞋”可能有,而“價格從低到高 第 3 頁”通常没有。
  • 這個頁面是否有獨立文案、獨立介绍,還是只是商品列表換了個顺序?
  • 站内搜尋日誌里,有没有人用類似词找到這個頁面?
  • 如果去掉參數,内容是否明顯不同?

如果答案偏向“没有獨立需求”,就不必让搜尋引擎收錄。如果某個篩選頁有稳定搜尋量,可以把它做成静態化或規范化的獨立頁面,而不是依赖參數。

一個可执行的检查顺序

  1. 從服務器日誌或 Search Console 的抓取統計里,找出被频繁抓取的參數 URL 類型。
  2. 按參數類型分组:跟踪、排序、篩選、分頁、會话。
  3. 對每组抽样看頁面内容,判断與主版本的重合度。
  4. 跟踪和會话參數優先屏蔽;排序參數用 canonical 或 noindex;篩選參數按搜尋需求保留少數。
  5. 检查站内連結,避免所有參數组合都可爬取。
  6. 處理後在日誌里观察一段時間,看抓取分布是否變化。
參數 URL 的收錄問题,核心不是“全部屏蔽”或“全部保留”,而是把有限抓取配額留给有獨立價值的頁面。定期审查比一次性設定更有效。

最後提醒一点:不同搜尋引擎對參數的處理能力不同,規則也可能調整。做决定前,先看自己站点的實际抓取和收錄資料,再選擇收口方式。