网站上线一段时间后,总会出现一些没人“领路”的页面:站点地图里有它,搜索引擎偶尔也能抓到,但站内没有任何链接指向它。这类页面通常被称为孤岛页面。它们不一定质量差,却很容易长期没人访问、没人更新,也很难获得稳定的抓取。
孤岛页面是怎么出现的
大多数孤岛页面不是故意造成的,而是运营动作留下的痕迹:
- 栏目改版或导航精简时,原来的入口被删掉,页面本身还保留着;
- URL 结构调整后,新页面已上线,旧入口指向了别处,新页面反而没有入口;
- 批量生成的详情页只提交了站点地图,没有挂到任何列表页或推荐位;
- 活动页、专题页下线了入口,但内容被保留下来当成长期页面。
为什么值得单独查一遍
从蜘蛛的角度看,站点地图只是“候选名单”,内链才是站内最主要的发现路径。一个页面长期没有内链,等于在结构上被孤立:抓取频率低,页面更新后也不容易被重新抓取;从用户角度看,除非从外部搜索直接进入,否则很难在站内逛到它。
孤岛页面不等于低质量页面,它缺的只是一个入口。先判断内容是否还有价值,再决定补链接还是做下线。
怎么把孤岛页面找出来
- 导出站点地图里的 URL 清单,作为“应该被访问的页面”基准。
- 用站内爬虫工具从首页出发爬一遍全站,得到每个页面的入链数量和来源。
- 把两份清单做差集:在站点地图里出现、却在爬取结果中没有入链的地址,就是候选孤岛。
- 再结合服务器日志验证:如果某个 URL 的抓取记录几乎都来自站点地图,站内没有带 referer 的访问,基本可以确认。
- 抽样人工点开几个页面,确认真实内容和状态码是否正常,排除抓取工具漏抓的情况。
找到之后怎么处理
- 补入口:在相关栏目的列表页、相关内容推荐、上级栏目的子页导航里加上链接,链接文字写清楚指向什么内容。
- 做合并:内容和其他页面高度重复的,选一个保留页,其余用 301 指向保留页,不要只是删掉入口。
- 走下线流程:确实过期、没有保留价值的,按页面退役流程处理,给用户和蜘蛛一个明确的去向。
- 暂时保留:季节性内容如果入口只在特定时间出现,可以在非活动期保留页面,但要在下一次上线时恢复入口,而不是彻底忘记。
日常怎么避免继续产生
孤岛页面往往是一次改版、一次批量发布留下的后遗症,所以防护也要放在发布环节:新栏目上线时,导航、列表页、站点地图三处同步更新;批量生成内容前,先确定这些页面的父页面和入口位置;删除入口之前,先确认对应内容是否还有用。
巡检频率不用很高,每月一次,或者每次大改版后做一次即可。把“无入链页面数量”记下来,看它是稳定还是持续增长,比单次的绝对数字更有参考意义。
自查清单
- 站点地图 URL 数量与站内有入链页面数量是否差距很大;
- 最近一次改版删掉的入口,对应页面现在是否还有别的入口;
- 批量生成的页面是否都挂在父级列表页下;
- 日志里是否存在只被站点地图抓取、没有站内来源的 URL;
- 已处理过的孤岛页面,状态码和跳转是否正常。