改版或换域名时,最容易被忽略的不是新页面做得好不好,而是蜘蛛还在按旧地图走:旧 URL 持续被抓,新 URL 迟迟不入队。这个阶段真正要做的是“接力”,不是“切换”。切换是人的动作,接力才是蜘蛛能感知的过程。
一、先给旧 URL 分类,别一刀切
动手改结构之前,先把存量 URL 分成几类,不同类别处理方式完全不同:
- 内容等价:页面只是换了地址,用 301 指向新 URL,一步到位,不要中间再跳一次。
- 内容已下线:确实没有替代页面,返回 410 或保留一个说明页,并给出返回入口。
- 仍有访问价值:旧地址有真实流量或外部引用,建议保留可访问状态,同时在页面内加显眼的内链指向新入口。
一次性把整站旧 URL 全部变成 404,等于同时切断蜘蛛已知的所有路径,新页面又还没被建立信任,抓取会明显空转一段时间。
二、让新入口先有稳定的内链支撑
蜘蛛发现新 URL 的顺序,通常取决于它能不能从多个已知入口走到那里。迁移期可以按下面的顺序推进:
- 导航、面包屑、列表页、聚合页先替换成新地址,这些是蜘蛛最常走的通道。
- 旧页面保留期间,在正文靠前位置放一条指向新页面的内链,而不是只依赖 301。
- Sitemap 采用新旧并存一段时间的方式:新地图先上线,旧条目分批移除,避免一次性“换血”造成入口断档。
蜘蛛对新 URL 的信任,来自“能否从多个已知入口稳定走到它”,而不是来自某一次提交动作。
三、迁移期的日志核对顺序
判断接力是否顺利,日志比感觉可靠。建议按这个顺序看:
- 旧 URL 的抓取请求是否逐渐转向新 URL,而不是长期停在 301 环节。
- 301 的落地地址是否就是最终地址,出现两跳以上说明映射写复杂了。
- 新 URL 首次被抓的时间,是否集中在导航、列表页替换之后。
- 404、410 的分布是否与计划一致,出现计划外的失效地址要及时补映射。
四、响应码和服务器稳定性上的细节
迁移期服务器压力往往比平时大,这时更要避免在抓取路径上出问题:
- 301 尽量一步到位,减少多跳带来的资源消耗和落地地址混乱。
- 新 URL 上线前先确认可正常返回,避免出现 5xx;确需维护时,用 503 配合 Retry-After 给出恢复时间。
- 响应时间保持稳定,突然变慢会让蜘蛛主动降低对该站点的抓取节奏,新入口的入队也随之被推迟。
五、常见的几个误区
- 改版当天就把旧 URL 全部删掉,同时删掉旧 Sitemap。
- 新旧内容同时可访问,既不跳转也不做规范化,形成重复入口。
- 内链替换晚于 301 上线,蜘蛛找不到新页面的稳定通道。
- 只看提交结果,不看日志里旧 URL 与新 URL 的抓取比例变化。
把迁移理解成“给蜘蛛留一条能走通的新路”,而不是“宣布旧路作废”,抓取衔接通常会平顺得多。核对的重点始终是两件事:新入口有没有被稳定发现,旧入口有没有被有序回收。