搜尋抓取

站点改版期的 URL 迁移:新舊入口的接力與抓取衔接核對

站点改版或換域名时,蜘蛛往往還在按舊地图抓取。本文梳理迁移期舊 URL 的三類归属、新入口的内鏈與 Sitemap 接力、日誌與响應碼的核對顺序,帮助减少抓取空轉和重复入口。

搜尋抓取

站点改版期的 URL 迁移:新舊入口的接力與抓取衔接核對

改版或換域名时,最容易被忽略的不是新頁面做得好不好,而是蜘蛛還在按舊地图走:舊 URL 持續被抓,新 URL 迟迟不入队。這個阶段真正要做的是“接力”,不是“切換”。切換是人的動作,接力才是蜘蛛能感知的過程。

一、先给舊 URL 分類,別一刀切

動手改结构之前,先把存量 URL 分成几類,不同類別處理方式完全不同:

  • 内容等價:頁面只是換了地址,用 301 指向新 URL,一步到位,不要中間再跳一次。
  • 内容已下线:确實没有替代頁面,返回 410 或保留一個說明頁,並给出返回入口。
  • 仍有訪問價值:舊地址有真實流量或外部引用,建议保留可訪問狀態,同时在頁面内加顯眼的内鏈指向新入口。

一次性把整站舊 URL 全部變成 404,等于同时切断蜘蛛已知的所有路径,新頁面又還没被建立信任,抓取會明顯空轉一段時間。

二、让新入口先有稳定的内鏈支撑

蜘蛛發現新 URL 的顺序,通常取决于它能不能從多個已知入口走到那里。迁移期可以按下面的顺序推進:

  1. 導航、面包屑、列表頁、聚合頁先替換成新地址,這些是蜘蛛最常走的通道。
  2. 舊頁面保留期間,在正文靠前位置放一條指向新頁面的内鏈,而不是只依赖 301。
  3. Sitemap 采用新舊並存一段時間的方式:新地图先上线,舊條目分批移除,避免一次性“換血”造成入口断档。
蜘蛛對新 URL 的信任,来自“能否從多個已知入口稳定走到它”,而不是来自某一次提交動作。

三、迁移期的日誌核對顺序

判断接力是否顺利,日誌比感觉可靠。建议按這個顺序看:

  • 舊 URL 的抓取請求是否逐渐轉向新 URL,而不是長期停在 301 环节。
  • 301 的落地地址是否就是最终地址,出現两跳以上說明映射寫复杂了。
  • 新 URL 首次被抓的時間,是否集中在導航、列表頁替換之後。
  • 404、410 的分布是否與計划一致,出現計划外的失效地址要及时补映射。

四、响應碼和服務器稳定性上的细节

迁移期服務器压力往往比平时大,這时更要避免在抓取路径上出問题:

  • 301 尽量一步到位,减少多跳带来的资源消耗和落地地址混乱。
  • 新 URL 上线前先確認可正常返回,避免出現 5xx;确需维護时,用 503 配合 Retry-After 给出恢复時間。
  • 响應時間保持稳定,突然變慢會让蜘蛛主動降低對该站点的抓取节奏,新入口的入队也随之被推迟。

五、常见的几個誤区

  • 改版当天就把舊 URL 全部删掉,同时删掉舊 Sitemap。
  • 新舊内容同时可訪問,既不跳轉也不做規范化,形成重复入口。
  • 内鏈替換晚于 301 上线,蜘蛛找不到新頁面的稳定通道。
  • 只看提交结果,不看日誌里舊 URL 與新 URL 的抓取比例變化。

把迁移理解成“给蜘蛛留一條能走通的新路”,而不是“宣布舊路作废”,抓取衔接通常會平顺得多。核對的重点始终是两件事:新入口有没有被稳定發現,舊入口有没有被有序回收。