很多站点在检查抓取情况时,关注点集中在“蜘蛛有没有来”“来了几次”,却很少问另一个问题:蜘蛛从入口走到某个页面,中间要经过几次点击。这个距离通常被称作点击深度,它直接决定了页面在抓取路径上的位置。
点击距离是什么
把站点看成一棵树:首页是根,栏目页是一级分支,内容页是更深的节点。从首页出发,沿着站内链接到达某个 URL 所需的最少跳转次数,就是它的点击深度。蜘蛛的发现过程与此高度相似——它沿着链接一层层往外走,越深的页面,被走到的概率越低。
这不完全是蜘蛛“懒”,而是抓取资源有限。同一段时间里,浅层页面会被反复访问,深层页面可能一次也轮不上。
路径变长通常有这几个原因
- 栏目嵌套过深:首页 → 频道 → 子频道 → 子子频道 → 列表 → 详情,详情页实际深度已经到了五、六层。
- 只靠列表页到达:详情页的唯一入口是列表页,而列表页翻到后面几页基本没人点,站内也没有交叉引用。
- 导航与面包屑缺失:面包屑只显示当前层级的文字,不提供可点的上级链接,路径在中途被截断。
- 链接藏在交互后面:需要点击“展开更多”“切换标签”才出现的链接,蜘蛛未必会去触发。
- 聚合页和标签页重复分流:大量中间层页面吸走了内链,本身却没有太多实质内容。
怎么自查
- 用爬虫工具以首页为起点跑一遍,导出每个 URL 的深度字段,看看有多少页面的深度大于 4。
- 随机抽 10 个目标页面,手动从首页点进去,记录所需点击数,和工具结果对照。
- 把抓取日志按 URL 归类,观察深层目录的抓取次数是否明显低于浅层。
- 检查每个详情页除了所属列表页之外,是否还有其他页面或栏目的入口。
把路径缩短的几种做法
导航与面包屑
主导航覆盖核心频道,面包屑里每一级都做成可点的链接,让任意详情页都能沿着面包屑回到频道和首页。这一步成本低,对路径长度的改善最直接。
相关推荐与专题聚合
在详情页底部放 5 到 8 条同主题链接,相当于给深层页面增加了横向入口。注意控制数量与相关性,堆几十条不相关的链接,反而会稀释页面上真正有价值的指向。
Sitemap 作为补充通道
Sitemap 不能替代内链,但它能让一些长期没有内链入口的 URL 至少出现在蜘蛛面前。把它当作补漏手段,而不是主力。放进 Sitemap 的地址,仍然建议在站内给一条可达路径。
收敛中间层的数量
如果一个列表页只有“分页”和“筛选”两种用途,本身没有独立内容,可以考虑合并到主列表,或让它不被抓取,减少路径上的空转节点。
别把扁平化做过头
把全站链接都塞到首页,会让首页的链接数量失控,蜘蛛在首页的停留时间被摊薄,真正重要的页面反而更难被区分出来。更合理的做法是保证核心内容在 3 次点击内可达,长尾内容在 4 到 5 次以内,而不是追求“所有页面都一层可达”。
点击距离本身不是排名因素,但它决定了蜘蛛能不能比较稳定地走到你的页面。先保证路径存在,再谈抓取频率。