站点改版、换目录、迁移域名,本质上是把蜘蛛已经记住的那张地图撕掉重画。旧 URL 还留在它的抓取队列里,新结构却已经上线,这段时间蜘蛛会频繁来回试探。抓取路径铺得顺,恢复期就短一些;铺得乱,可能几个月都在抓一堆重定向。
先把旧 URL 的出口交代清楚
迁移第一步不是急着发新链接,而是让每个旧地址都能明确指向唯一的去向。
- 一对一 301:旧页面对应最相关的新页面,不要整站 301 到首页,那等于告诉蜘蛛这些内容已经没有了。
- 尽量避免链式跳转:A→B→C 这种连续 301 会让蜘蛛多走几跳,抓取时间被白白消耗,能一步到位就别分两步。
- 页面级映射优先于规则匹配:能用精确映射就用精确映射,模糊规则一旦匹配错,会把大量不相关的 URL 一起卷进来。
重新给蜘蛛铺入口
抓取路径的起点通常是首页、导航和 Sitemap。改版后这三处要同步更新,否则蜘蛛还在沿着旧内链走,走两步就撞上 404。
Sitemap 换成新地址
新 Sitemap 提交之后,旧的不要立刻删掉,保留一段时间让蜘蛛把重定向抓完。Sitemap 里只放最终可访问的规范 URL,别把跳转地址也写进去,否则等于把蜘蛛往重定向链上引。
内链按新层级接上
导航、面包屑、相关推荐是蜘蛛发现新 URL 的主要通道,改版时最容易漏掉的却是正文里的老链接。它们指向的往往已经是跳转地址,能直接改成新地址就改,减少一次不必要的跳转。
顺手把 URL 写法统一
改版是统一规范的好时机:大小写、结尾斜杠、www 与非 www、http 与 https,只保留一种写法,其余全部 301 到规范形式。写法不统一,同一个页面会被当成多个 URL,抓取量被分成几份,谁都抓不透。
让新结构本身好走
蜘蛛偏好清晰的层级:首页 → 栏目 → 列表 → 详情,点击深度控制在三四步以内,重要栏目放进导航,而不是只靠角落里的一个聚合页。如果新站把所有内容塞进同一个列表,蜘蛛会反复抓这个列表,深处页面反而更慢被发现。
抓取路径设计的核心不是让蜘蛛多抓,而是让它把有限的时间花在还活着的、有价值的 URL 上。
服务器要扛得住回访
迁移后蜘蛛的回访会比平时密集。如果这段时间服务器频繁超时、返回 5xx,它很可能主动降低抓取频率,新页面被发现的节奏也跟着慢下来。改版上线尽量避开流量高峰,提前准备好缓存和扩容,至少保证导航页、列表页能稳定返回 200。
迁移后盯几个信号
- 日志里旧 URL 的请求占比是否在下降,说明蜘蛛正在接受新地址。
- 301 是否返回正确,有没有 302、404 混在里面。
- 新 URL 的抓取频次有没有逐步起来,尤其是二级、三级页面。
- Sitemap 的抓取情况,是否还有大量旧地址残留。
整个过程没有哪一步能保证收录或排名,能做的是把路径上的坑填掉:出口明确、入口更新、层级清晰、服务稳定。剩下的交给蜘蛛自己走。