点击深度到底在算什么
点击深度指从首页出发、沿可抓取链接最少点几次能到达某个页面。首页算第 0 层还是第 1 层,各家算法略有差别,真正要紧的不是数字本身,而是内容页与首页之间隔了多少个中间页。中间页越多,链接传递被稀释得越厉害,抓取预算也更多花在栏目页和列表页上。
这件事容易和孤岛页面混在一起。孤岛页面是没有任何内链指向,本文讨论的是有入口、但入口太深的页面,两者的处理方式并不一样。
哪些结构最容易让内容变深
- 为了分类清晰一路细分下去:首页 → 频道 → 一级栏目 → 二级栏目 → 年份 → 列表 → 文章,内容页落在第五层之后。
- 栏目页只放子栏目入口,不放具体文章链接,每一层都只是个路牌。
- 列表页依赖“加载更多”按钮,翻页链接不生成,后面的内容等于被藏起来。
- 导航和面包屑里的栏目链接指向聚合页,聚合页再指向文章,白白多绕一圈。
- 内容只挂在标签页、专题页下面,主栏目里看不到它的入口。
怎么把真实深度查出来
- 用支持深度统计的爬取工具跑一遍全站,导出每个 URL 的深度,按深度降序排列,先看有多少页面超过三层。
- 把这份清单和抓取日志对照,看这些深页面最近有没有被访问过、多久访问一次。
- 随机抽十几个业务上重要的页面,手工从首页一步步点过去,不要用搜索框和站点地图,只看能否在三次点击内到达。
- 检查站点地图里的 URL 是否都能在站内找到对应入口。如果某个页面只能从站点地图被发现,说明内链这条路是断的。
压缩层级的几种做法
- 栏目页除了子栏目,也列出该栏目下最新的若干篇文章,让内容页多一条浅入口。
- 控制目录层级。URL 的路径段数和点击深度并不完全一致,但两者经常一起失控,可以互相印证。
- 长列表不要只靠加载按钮,把分页做成可抓取的普通链接,第一页也要有下一批内容的出口。
- 重要内容用首页、栏目页、相关阅读三条路径交叉指向,而不是全站都走同一批出口。
- 合并长期没有内容的空栏目。栏目数量少了,平均深度自然会降。
减层级的目的是让重要内容更容易被找到,不是把全站链接都堆到首页。首页链接数量暴涨,每个链接分到的关注反而更少,还会挤掉真正需要强调的入口。
几个容易走偏的地方
把深度小当成唯一目标
为了压深度,把几十个不相干的栏目并成一个,内容相关性被打散,用户也不好找。层级应该跟着内容结构和用户路径走,深度只是其中一个观察指标。
只改导航,不改列表页
导航解决的是栏目级入口,内容页还是要靠栏目页和列表页把它们放出来。只调整顶部导航,深度数据通常不会有多大变化。
用脚本渲染的展开菜单
靠点击才能展开的三级菜单,如果初始 HTML 里没有对应链接,抓取时拿到的仍是空的。菜单链接最好在初始 HTML 中就存在。
把它放进日常检查
不必每次改版都全站重跑一遍,可以做三件事:新增栏目时先想清楚文章落在第几层;每次内容批量上线后,抽几条看能否在三次点击内到达;每季度跑一次深度统计,重点盯深度靠前的页面和最近新增的页面。深度不是一次性指标,它会随着栏目调整慢慢变回去。