网站改版、换域名、调整栏目结构,都会让原本稳定的 URL 发生位移。对用户来说,一次跳转可能只是多等半秒;对搜索引擎蜘蛛来说,这是它熟悉的地图被整体重画了一遍。迁移期处理得好,旧地址的流量能平稳过渡;处理得随意,可能出现大批 404、重复内容、抓取停滞。
下面这份自查清单不针对某一种建站程序,适用于任何一次涉及 URL 变更的改版。
一、动手之前,先有一份 URL 映射表
迁移最忌讳的是边改边看。上线前至少要有一张表,把旧地址和新地址一一对应,覆盖到可能被访问的每一个层级。
- 栏目页与列表页:分页规则是否改变,旧的分页参数如何对应。
- 详情页:内容编号不变、路径变了的,单独列出。
- 已被删除的页面:不要硬塞进新结构,明确标记为 410,或跳转到最相关的上级栏目。
- 静态资源:图片、样式表、脚本的路径如果变了,检查页面里是否还残留旧引用。
映射表不需要多精致,能让你在出问题时快速反查就够了。
二、迁移期的抓取信号别打架
很多站点习惯在上线前用 robots.txt 屏蔽整站,防止用户看到半成品。这个做法本身没问题,但有两个细节容易出事。
屏蔽范围要精确
写下「Disallow: /」之前,先确认测试环境域名和正式域名没有混用。曾有站点在新站上线后忘了删掉屏蔽规则,导致蜘蛛连续几周只能看到一堵墙。
解除屏蔽的时机
建议在新站可正常访问、主要页面返回 200 之后再放开,并同步提交新的站点地图。放开太早,蜘蛛会抓到大量临时重定向;放开太晚,抓取节奏恢复需要额外时间。
另外,迁移期间尽量避免同时做全站 HTTPS 切换、CDN 更换、前端框架重构。多个变量叠加在一起,会让排查问题变得非常困难。
三、上线后重点看三类数据
- 抓取日志中的状态码分布:404 和 5xx 是否集中在某几个路径,通常意味着映射表有遗漏,或者程序有报错。
- 旧 URL 的命中情况:如果旧地址仍在被频繁访问,说明外链、书签或站内引用还没清理干净,301 要长期保留。
- 新页面的抓取深度:重要栏目是否还在首页两三次点击之内,有没有因为导航调整被推到更深的位置。
观察周期建议至少覆盖两到四周。不要看到一两天没恢复就频繁改动规则,反复调整反而会让蜘蛛的判断更混乱。
四、几个反复出现的坑
跳转链超过一跳、跳转到不相关页面、用 302 长期代替 301,是迁移后最常见的三种问题。它们不会立刻致命,但会持续消耗抓取效率。
- 旧 URL 跳新 URL,新 URL 又跳一次,链条越长,传递效果越弱,尽量做到一步到位。
- 把所有失效页面统一跳到首页,等于告诉蜘蛛这些页面没有对应内容,不如跳到最相关的栏目页。
- 站内搜索、筛选参数生成的临时地址被大量写入映射表,反而制造出新的重复入口。
五、把迁移当成一次结构盘点
改版不只是换个样式,它是一次重新审视站点结构的机会:哪些栏目长期没有更新,哪些页面从来没有被访问过,哪些内容其实可以合并。借着 URL 调整把这些问题一并处理,比迁移完成后再单独优化要省事得多。
迁移结束后,建议再跑一遍常规自查:站点地图是否只包含有效地址、内链是否指向最终版本、页面模板里的标题和描述是否跟着更新。这些细项做好,蜘蛛重新认识站点的时间会短一些。