站点的标签页、专题页、作者页,往往是把同一批内容换个顺序再列一遍。它们对用户有导航价值,对搜索索引却可能是一批高度相似的结果。当这些聚合页和分类页大面积重叠时,收录数量会涨,但真正能带来访问的入口并不会变多,抓取预算也被分散了。
先确认重叠发生在哪一层
不要一上来就删页面。先抽样十几组页面,把重叠分成三类:完全重复、部分重叠、独立价值。区分的标准很简单:把两个页面的正文放在一起对比,如果去掉共有的标题列表之后,聚合页剩下的内容不足一两句,基本就属于重复。
- 完全重复:聚合页只列出标题和摘要,没有自己的导语或说明,和分类页几乎一致。
- 部分重叠:聚合页有自己的筛选说明、排序逻辑或推荐理由,但主体条目仍然和分类页重合。
- 独立价值:聚合页解决了分类页解决不了的问题,比如跨品类的横向对比、按时间整理的专题。
只有前两类才需要考虑收敛。第三类该保留就保留,必要时还应该把它做得更完整,而不是顺手砍掉。
核对顺序
- 确定主入口。同一个内容集合通常只保留一个稳定入口,其余作为辅助。先把这个判断写下来,后面的操作都以它为准。
- 检查规范标签。聚合页是指向自己,还是指向分类页,要和你的判断一致。最怕的是两个页面互相声明规范,等于什么都没说。
- 检查内链。导航、面包屑、正文推荐里是否同时抛出多个等价入口。入口越多,分散得越厉害。
- 检查 sitemap。聚合页是否被批量提交,提交量是否和它的实际价值匹配。把全部标签页都塞进去,往往只会增加抓取压力。
- 决定处理方式:合并、加 noindex,还是保留但减少内链入口。
几种常见的处理方式
合并
如果标签页和分类页覆盖的内容基本一致,可以把标签页的说明文字并入分类页,或者把分类页做成带筛选的视图,让 URL 状态可控。合并之后记得处理旧的跳转关系,别让旧地址直接返回 404。
noindex 但不屏蔽抓取
对没有独立价值的聚合页,可以在页面头部加 noindex,同时保留抓取权限。屏蔽抓取会导致页面上的链接无法被发现,反而影响下层内容的抓取与更新。两者要分开看:不允许抓取解决不了重复收录,noindex 才是表达不收录意图的方式。
保留但收口
有独立价值的聚合页可以留下,但要控制数量,并且避免在同一层级反复互链。让它成为一条支线,而不是和主入口并列的第二条主线。
容易忽略的细节
- 标签的字号、空标签、只有一个条目的标签页,往往是最先该处理的一批。
- 筛选、排序参数如果会生成新 URL,即使内容相同也要考虑是否允许被索引。
- 移动版和桌面版是否用了同一个地址,如果不同,收敛规则要在两边同时生效。
收敛后的观察点
- 分类页和详情页的抓取频次是否上升。
- 被 noindex 的地址是否逐步从索引中消失,这个过程通常需要一段时间,不必急着反复提交。
- 站内搜索、翻页、排序等入口是否又制造出新的等价 URL。
收敛的目标不是让收录数字好看,而是让搜索引擎把抓取预算用在真正有区别的页面上。数字暂时下降,不代表站点变差,要看有效入口的抓取和展现是否改善。
最后提醒一句:聚合页的问题常常是周期性的。只要站点还在新增内容,新的标签、新的筛选就会不断生成新 URL。把上面的核对顺序固化成流程,比一次性清理更省事,也更容易在下次发现问题时快速定位。