站点运营

站点运营:孤岛页面排查,别让内容只能靠 Sitemap 被找到

蜘蛛发现页面主要靠内链和 Sitemap 两条路。有些页面在站内没有任何可点击的入口,只能靠地图或历史外链被找到,这就是孤岛页面。本文讲孤岛页面的常见来源、排查方法和治理思路,帮你把值得收录的内容重新接回站内链接网络。

站点运营

站点运营:孤岛页面排查,别让内容只能靠 Sitemap 被找到

蜘蛛发现一个新 URL,通常只有两条路:顺着站内链接爬过去,或者从 Sitemap、外链、历史提交里拿到地址。如果一个页面在站内没有任何可点击的入口,它就只能靠后一条路被找到。这类页面常被称为孤岛页面。

孤岛页面不一定会出问题,偶尔一两个无关紧要。但当数量变多,往往说明站内结构在某次改版、某次模板调整之后被切断了。值得收录的内容接不上内链,抓取和重新抓取都会变得不稳定。

孤岛页面是怎么出现的

大多数孤岛页面不是刻意做出来的,而是流程里漏掉的一环。常见来源包括:

  • 改版或换模板时,原有的栏目入口被删掉,页面本身却保留了下来;
  • 时间较久的文章,只存在于归档页很深的分页里,从首页几乎点不到;
  • 活动页、专题页下线后没有清理,链接撤了,页面还在线;
  • 自动生成的标签页或聚合页,没有被任何列表引用;
  • 只通过表单提交、站内搜索或 JS 跳转才能到达的详情页;
  • 迁移时遗留的旧目录页面,入口在新结构里没有对应位置。

排查思路

排查的关键,是把「站内能爬到的 URL」和「站点实际存在的 URL」做一次对比。可以从几个方向入手:

  1. 全站爬取对比。用爬虫工具从首页出发抓一遍,再和 Sitemap、数据库里的 URL 列表对照,差集里往往就是孤岛页面。
  2. 看服务器日志。如果某个页面长期只有搜索引擎来抓,几乎没有站内 referer,说明站内没有链接指向它。
  3. 抽样测点击距离。从首页开始点,看重要页面能否在几次点击内到达。超过四五层还找不到的,基本可以按孤岛处理。
  4. 检查相关推荐和面包屑。有时入口是有的,但只在某个版本或某个端上显示,蜘蛛拿到的 HTML 里并没有。

治理时先分类,再动手

不是所有孤岛页面都值得救。补内链之前,先判断页面本身还有没有价值。

  • 有独立价值、还有搜索需求的页面:补内链。可以从相关文章、同栏目列表、专题聚合页、面包屑等位置挂上去,让它重新回到链接网络里。
  • 已经过期或重复的页面:该合并的做 301 指向新地址,该下线的返回 410 或加 noindex,不要继续挂着。
  • 数量多、价值低的自动生成页:从源头关掉生成逻辑,比事后一个个补链接更省事。
  • 深分页里的老内容:可以考虑做按时间或按分类的索引页,把入口前移。
补内链不是越多越好。为了救一个孤岛页面,在正文里硬塞一堆无关链接,反而会让内链质量下降。入口只要自然、位置合理就够了。

把它变成日常动作

孤岛页面容易在改版、换模板、批量下线内容之后集中出现。可以在发布流程里加一步确认:新页面发布后,至少有一个站内入口指向它。另外每隔一段时间跑一次全站爬取,把「爬到的 URL」和「Sitemap 里的 URL」做一次差集,差异明显变大时再回头查原因。

孤岛页面本身不是错误,但它是一个信号。数量少的时候可以逐个处理,数量持续增加,通常意味着栏目入口、归档结构或发布流程需要重新理一遍。