搜索抓取

改版换链接之后:旧 URL 怎么退场,新 URL 怎么被蜘蛛接上

站点改版、换目录或换域名后,旧 URL 与新 URL 之间需要一次完整的交接。本文梳理旧地址用 301、410 还是保留的取舍,新地址可以依靠哪些入口被发现,并列出链式跳转、Sitemap 新老混存等常见问题,最后说明怎样用服务器日志判断交接进度。

搜索抓取

改版换链接之后:旧 URL 怎么退场,新 URL 怎么被蜘蛛接上

站点改版、目录调整、换域名之后,常会遇到一段尴尬期:旧链接还时不时有蜘蛛来访,新链接却迟迟没有动静。这不完全是提交一下就能解决的事,本质上是让蜘蛛重新走一遍发现路径,完成一次 URL 的交接。

改版改变的是抓取路径,不只是页面样式

蜘蛛对站点的认识来自两条线:一条是站内可点击的链接路径,另一条是它已经抓过、记在队列里的旧 URL。改版往往同时动了这两条线——导航结构变了,原有内链指向的位置变了,旧 URL 还有一批残留在外链、收藏和搜索结果里。新人不断出现,旧账还没结清,抓取资源就被摊薄了。

所以改版后的第一件事不是急着提交新页面,而是先把旧 URL 的去向定下来。

旧 URL 的三种退场方式

  • 301 永久跳转:内容换到了新地址,旧地址不再有独立价值时使用,适合成批、规则清晰的迁移。
  • 410 或 404:页面确实下线、也没有替代内容时使用。410 表达得更明确,但对抓取节奏的影响和 404 相近。
  • 原样保留:只有当旧页面仍有独立内容、或仍有大量外部链接指向时才考虑。如果新旧页面内容一致却同时返回 200,等于给蜘蛛两个几乎相同的入口。

需要注意的是,跳转要一次到位:旧地址指向新地址,新地址直接返回 200,这是最省事的形态。

新 URL 要靠哪些入口被发现

Sitemap 是一份清单,本身不构成入口。它能帮助蜘蛛知道有哪些新地址,但决定蜘蛛是否愿意顺着走下去的,通常是页面上的链接。

  • 主导航和栏目页:新结构里位置最显眼的地方,尽量保证新 URL 在改版上线那天就能从首页点两三次到达。
  • 正文内链:老文章里指向旧 URL 的链接,改版时最好同步换成新 URL,别全留给 301 去兜底。
  • Sitemap:更新为新 URL,旧的从清单里移除;如果保留跳转,别让跳转地址继续出现在清单里。
  • 站内搜索与标签聚合:能补充一部分发现路径,但别让这些动态结果页成为主要入口。

交接期最容易踩的几个坑

  1. 链式跳转:A 跳 B,B 再跳 C。每多一跳,蜘蛛就多花一次请求,批量出现时对抓取节奏的影响很明显。
  2. 301 指向 404:跳转目标本身不存在,蜘蛛跟过去只拿到一个空结果,两次请求都没产出。
  3. Sitemap 新老混存:清单里同时列出旧地址和新地址,会让蜘蛛反复在两边来回。
  4. 新页面只有 Sitemap 没有内链:发现得了,但缺少站内信号,后续抓取意愿往往偏弱。
  5. 改版顺手改了 URL 规则:大小写、末尾斜杠、参数顺序一起变,跳转规则就容易漏掉分支。

用日志看交接进度

交接是否顺利,服务器日志里能看出大概:旧 URL 的访问量应该逐步下降,且以 301 为主;新 URL 的首次抓取时间大致集中在改版后的一段时间内。如果旧 URL 长期高频返回 301,可能是内链还没换干净,或者有外部链接一直在推。

同时留意新 URL 的状态码分布。如果新地址出现较多 5xx 或超时,蜘蛛的抓取节奏会明显放慢,交接期自然被拉长。

节奏上留点余地

改版是给蜘蛛换一条路走,不是让它凭空记住一批新地址。旧路要收得干净,新路要铺得清楚,中间别留下太多岔口。

把跳转规则、内链替换和 Sitemap 更新按同一份清单核对一遍,再观察日志里的访问结构变化,通常比反复提交更有效。