搜索抓取

站点改版期的 URL 迁移:新旧入口的接力与抓取衔接核对

站点改版或换域名时,蜘蛛往往还在按旧地图抓取。本文梳理迁移期旧 URL 的三类归属、新入口的内链与 Sitemap 接力、日志与响应码的核对顺序,帮助减少抓取空转和重复入口。

搜索抓取

站点改版期的 URL 迁移:新旧入口的接力与抓取衔接核对

改版或换域名时,最容易被忽略的不是新页面做得好不好,而是蜘蛛还在按旧地图走:旧 URL 持续被抓,新 URL 迟迟不入队。这个阶段真正要做的是“接力”,不是“切换”。切换是人的动作,接力才是蜘蛛能感知的过程。

一、先给旧 URL 分类,别一刀切

动手改结构之前,先把存量 URL 分成几类,不同类别处理方式完全不同:

  • 内容等价:页面只是换了地址,用 301 指向新 URL,一步到位,不要中间再跳一次。
  • 内容已下线:确实没有替代页面,返回 410 或保留一个说明页,并给出返回入口。
  • 仍有访问价值:旧地址有真实流量或外部引用,建议保留可访问状态,同时在页面内加显眼的内链指向新入口。

一次性把整站旧 URL 全部变成 404,等于同时切断蜘蛛已知的所有路径,新页面又还没被建立信任,抓取会明显空转一段时间。

二、让新入口先有稳定的内链支撑

蜘蛛发现新 URL 的顺序,通常取决于它能不能从多个已知入口走到那里。迁移期可以按下面的顺序推进:

  1. 导航、面包屑、列表页、聚合页先替换成新地址,这些是蜘蛛最常走的通道。
  2. 旧页面保留期间,在正文靠前位置放一条指向新页面的内链,而不是只依赖 301。
  3. Sitemap 采用新旧并存一段时间的方式:新地图先上线,旧条目分批移除,避免一次性“换血”造成入口断档。
蜘蛛对新 URL 的信任,来自“能否从多个已知入口稳定走到它”,而不是来自某一次提交动作。

三、迁移期的日志核对顺序

判断接力是否顺利,日志比感觉可靠。建议按这个顺序看:

  • 旧 URL 的抓取请求是否逐渐转向新 URL,而不是长期停在 301 环节。
  • 301 的落地地址是否就是最终地址,出现两跳以上说明映射写复杂了。
  • 新 URL 首次被抓的时间,是否集中在导航、列表页替换之后。
  • 404、410 的分布是否与计划一致,出现计划外的失效地址要及时补映射。

四、响应码和服务器稳定性上的细节

迁移期服务器压力往往比平时大,这时更要避免在抓取路径上出问题:

  • 301 尽量一步到位,减少多跳带来的资源消耗和落地地址混乱。
  • 新 URL 上线前先确认可正常返回,避免出现 5xx;确需维护时,用 503 配合 Retry-After 给出恢复时间。
  • 响应时间保持稳定,突然变慢会让蜘蛛主动降低对该站点的抓取节奏,新入口的入队也随之被推迟。

五、常见的几个误区

  • 改版当天就把旧 URL 全部删掉,同时删掉旧 Sitemap。
  • 新旧内容同时可访问,既不跳转也不做规范化,形成重复入口。
  • 内链替换晚于 301 上线,蜘蛛找不到新页面的稳定通道。
  • 只看提交结果,不看日志里旧 URL 与新 URL 的抓取比例变化。

把迁移理解成“给蜘蛛留一条能走通的新路”,而不是“宣布旧路作废”,抓取衔接通常会平顺得多。核对的重点始终是两件事:新入口有没有被稳定发现,旧入口有没有被有序回收。