很多站点在上线初期会顺手开启标签、作者、专题、地区等自动聚合页,想着“多一个入口总没坏处”。模板一跑,几百上千个页面就生成了。这些页面往往只有一行标题加几条摘要,内容重复度高,对用户价值有限,却会实实在在占用抓取、索引和后续维护的精力。
自动聚合页为什么会失控
聚合页本身没有问题,问题在于它的生成逻辑常常和内容量脱钩:某个标签下只有两篇文章,也照样生成一个独立 URL;同一个作者名下既有长文也有短讯,全被塞进同一份列表。页面数量涨得比正文快,站点在抓取端呈现出的整体质量就会被拉低。
- 标签由编辑随手添加,没有数量上限,也没有合并机制;
- 同一批内容被标签、作者、分类、日期反复组合,形成多条路径指向近似页面;
- 列表页只有标题和摘要,缺少一段能说明“这个页面是干什么的”的引导文字;
- 页面上大量链接指向同类聚合页,蜘蛛容易在里面循环绕行。
自查:先看清现状再动手
1. 数量与生成阈值
统计标签页、作者页、专题页各有多少个,再看其中有多少个页面只挂着 1 到 3 篇内容。这类页面通常就是薄页的主要来源。同时确认模板的生成规则:是内容达到一定数量才生成,还是只要有标签就先建页面。
2. 抓取日志里的表现
在服务器日志中筛出聚合页路径,观察蜘蛛在这类页面上的停留频率与抓取结果。如果一批聚合页被反复抓取,却很少带来有效的下一跳,说明它们更多是在消耗预算,而不是在帮内容分发。反过来,如果某些标签页确实是用户找到内容的主要入口,就不要一刀切。
3. 用户到底用不用
站内搜索词、页面停留、跳出数据都可以作为参考。一个值得保留的聚合页,通常满足两点:有人从外部或站内点进来,且进来之后会继续往下点。长期零访问、零点击的标签,清理起来阻力最小。
处理顺序建议
- 先合并重复标签。同义词、单复数、大小写造成的重复标签,合成一个入口,比新增规则更有效。
- 给生成设阈值。例如某标签下内容少于 5 篇时不生成独立页面,或只保留在筛选参数中,不单独给 URL。
- 收敛入口。把标签云收进折叠区或独立的标签索引页,减少页脚、侧栏到处铺链接。
- 必要时用指令控制。对确实要留给用户、但不希望进入索引的聚合页,可以在该页模板上设置 noindex,同时保留链接可跟随,避免把站内路径截断。
- 增强保留页面。给保留下来的聚合页补一段人工撰写的说明,交代这个标签收录什么、按什么顺序排列,页面就不再只是列表。
- 定期清理。按季度检查新增标签,把零访问、零内容的删除或合并。
动手时容易踩的坑
不要一次性把全站标签页统一 noindex 或删除。先分批、先看数据,改动后观察日志里这些路径的抓取变化。如果某批页面确实要下线,返回 404 还是 301,取决于它有没有外部链接和用户入口:有替代页面的做 301,纯内部重复的可以直接 404。
另外,标签页和分页、筛选参数不是一回事。分页是同一份列表的延续,标签是内容维度的聚合,两者的处理策略不要混用。
聚合页的价值不在数量,而在它是否真的帮用户找到下一篇文章。如果答案是否定的,它占的那份索引资源就是可以省下来的。
复查节奏
把聚合页检查放进月度或季度例行工作:看新增了多少标签、有多少页面长期没有访问和点击、日志里有没有明显的循环抓取路径。保持在一个可控规模,比事后大规模清理要省事得多。