收录数量下降或者索引膨胀时,很多人第一反应是去改 robots。实际上更常见的问题是站内存在大量内容单薄、彼此高度相似的页面。这类页面即使被收录,也很难带来有效访问,还会占用抓取和索引资源。
薄内容不等于字数少
判断页面是否“薄”,看的不是字数,而是它在站内是否承担独立的信息价值。一篇 300 字的说明,如果能完整回答一个具体问题,就不算薄;而 2000 字的拼凑文章,如果只是把别处的话换个说法,依然属于低价值页面。
常见的薄内容页面包括:
- 只列出名称和参数、没有任何说明和差异对比的商品页
- 由筛选条件或参数组合生成的列表页
- 把同一篇内容硬拆成多页的翻页文章
- 只有标题和一两句话的标签页、作者页、日期归档页
- 由采集或改写批量生成、内容彼此重复的页面
先判断:这个页面有没有独立价值
动手修改之前,先把候选 URL 拉出来,逐条问几个问题。
- 这条 URL 是否有人会主动搜索,或者用户确实需要它?
- 页面上的信息是否在站内其他页面里已经完整出现过?
- 如果把这条页面删掉,用户还能不能完成同样的任务?
- 它是否有外部链接或站内链接指向?
如果前三个问题里有两个答案是否定的,第四个问题也没有,那么这条页面基本可以进入处理清单。
三种常见处理方式
扩充:把页面做成真正有用的那一版
适用于主题本身有搜索需求、只是当前内容不够的页面。补充具体信息,例如参数差异、使用场景、常见问题、数据表。扩充的重点是把“别人也能写的话”换成只有你能写的内容,比如实际测试记录、售后经验、常见故障的处理过程。
合并:把分散的内容聚到一条主 URL
适用于同一主题被拆成多个相似页面的情况。做法是选一条主 URL,把其余页面里有效的内容并入,然后让旧地址 301 指向主地址。合并后要更新站内指向旧地址的链接,并确认站点地图里不再提交旧地址。
noindex 或删除:让它不必出现在索引里
对于确实没有独立价值、又需要保留给特定用户访问的页面,例如内部筛选结果、登录后才能看到的内容,可以用 noindex 阻止收录。对于完全无用的页面,直接删除并返回 404 或 410 更干净。要注意:加了 noindex 的页面就不应再出现在站点地图里,两个信号不要互相矛盾。
处理顺序:先集中,再清理
- 先处理重复度最高、数量最大的一类,例如参数组合生成的列表页
- 再处理有搜索需求但内容不足的页面,逐步扩充
- 最后处理零散的长尾低价值页面,合并或加 noindex
- 每一步之后留出观察期,再看抓取和索引数据的变化
一次改太多会让数据难以归因。分批处理、记录每一批涉及的 URL,后续排查时才能对得上号。
处理之后看什么
观察期通常需要几周。可以关注这几件事:这些 URL 是否从索引中逐步退出,站内有效页面的抓取频次有没有变化,日志里是否还有蜘蛛反复访问已经 noindex 的地址。如果旧地址仍然被频繁访问,先检查站内链接和站点地图是不是还在指向它们。
以上方法只是减少低价值页面占用资源,不能保证某条 URL 被收录,也不代表处理之后排名就会提升。
收录是结果,不是目标。把页面质量整理清楚,再谈索引数量的多少才有意义。