列表页和分页是站点结构里最容易被忽略的一层。栏目页、标签页、归档页、搜索结果页,通常都靠翻页把内容串起来。它们本身不直接承担主要的搜索需求,却是蜘蛛爬行的重要通道。一旦翻页规则没管好,站内很容易出现薄内容页成堆、重复地址泛滥、抓取被拖慢的情况。下面这份自查清单,适合在改版前后各跑一遍。
分页常见的三类问题
1. 翻页 URL 形式不统一
同一个列表,可能同时存在几种翻页地址:带参数的、伪静态的、带哈希的。用户和蜘蛛从不同入口点进去,看到的其实是同一批内容,却拿到了不同的地址。久而久之,站内就会出现大量指向相同列表的重复 URL,站内权重被分散,蜘蛛也要反复爬取同一份数据。
2. 翻页内容高度雷同
翻到第三页以后,页面上的标题、摘要、导航几乎没有区别,只有列表项在变。如果这些页面被大量索引,站内就会堆积一批相似度极高的页面,既占索引位,也占抓取时间。尤其是标签页、筛选页、日期归档页,很容易越滚越多。
3. 列表页标题与描述缺省
不少模板会让分页直接继承栏目标题,导致第 2 页到第 50 页标题完全一样,描述也照抄栏目简介。这类页面在搜索结果里表现往往很差,还会和栏目主页面互相竞争。
自查清单
- 翻页地址是否只有一个版本。确定一种写法并统一,其余形式用 301 或规则收敛,避免同一列表裂成多个入口。
- 分页是否可被正常抓取。翻页链接最好是可点击的 a 标签,而不是 JS 拼接或按钮事件。列表底部要能顺着爬下去,别让蜘蛛只看到第一页。
- 列表页标题是否带上页码或范围。让分页标题与主栏目有区分,但不要为了堆词硬拼关键词。
- 描述是否随页变化。如果无法逐页生成,至少不要让所有分页共用一段长描述。
- 深分页是否需要被索引。通常栏目前几页有保留价值,几十页之后的翻页可以考虑不索引,但链接仍要保留,方便蜘蛛顺着爬到更早的内容。
- 筛选与排序参数是否可控。多条件组合会生成数量惊人的地址,建议只放行有实际搜索需求的组合。
- 搜索站内结果页是否被放开。站内搜索页通常是薄内容,默认应关闭索引。
- 列表页是否有内容摘要。纯标题列表价值有限,适当加入摘要或配图,页面本身也更有意义。
处理时的几个注意点
不要把翻页全部封死
翻页是蜘蛛发现历史内容的重要路径。直接对分页整段屏蔽,可能导致较早发布的文章长期不被发现。更稳妥的做法是让链接保持可爬,仅通过索引指令控制是否进入索引。
分页不要指向自己
canonical 指向第一页或栏目主页面,会让后续页面的内容信号被合并,但如果所有分页都指向同一地址,也可能让蜘蛛放弃抓取深层列表。建议按站点规模决定策略,并在改动后观察日志里的抓取分布。
列表页数量要有人管
标签、作者、日期归档这类页面,往往在内容增长后自动膨胀。建议定期统计各类型列表的页面数量,对没有访问量、没有入口的列表做合并或下线,而不是任由它自然繁殖。
改完要看数据
调整分页规则后,通过服务器日志观察蜘蛛对列表页与详情页的抓取比例,确认内容页的抓取没有下降。如果没有日志,也可以用站长工具里的抓取统计做粗略对比。
分页本身不是问题,问题在于没人给它定规矩。把 URL 形式、标题描述、索引范围和数量上限定下来,列表页就能继续当好通道,而不是变成站内的内容垃圾场。