搜尋抓取

站点改版後的 URL 發現:舊地址的抓取路径怎么接到新地址

站点改版或換域名後,蜘蛛手里的舊地图不會自動更新。本文梳理改版期 URL 發現的關键环节:301 一對一映射、Sitemap 與内鏈同步切換、舊地址的 410 與 404 處置,以及怎样用抓取日誌確認新地址是否接上了原有抓取路径,减少收錄断层。

搜尋抓取

站点改版後的 URL 發現:舊地址的抓取路径怎么接到新地址

站点改版、換域名或者目錄结构調整之後,最容易被忽略的不是頁面本身,而是蜘蛛手里那張舊地图。它记得舊地址、记得舊内鏈、记得舊 Sitemap。如果你的新地址没有接上這些通路,蜘蛛要么繼續抓舊地址,要么把新地址当成一批陌生 URL 慢慢试探。改版期間真正要做的,是把舊認知平稳地迁到新地址上。

改版會打断哪几件事

  • 已發現 URL 的归属:索引里存的是舊地址,舊地址一旦失效,這條记錄就断了。
  • 内鏈指向:站内連結如果還指向舊地址,等于每天给蜘蛛發舊信号。
  • Sitemap:Sitemap 里如果還是舊 URL,蜘蛛會優先按舊清單抓。
  • 外鏈與收藏:外部入口短期内不會自動更新,舊地址仍會持續被訪問。
  • 抓取路径记忆:蜘蛛對目錄层級和連結位置有惯性,新结构需要重新被走一遍。

301 是主通路,但要一對一

舊地址到新地址的 301 是最直接的通路,關键在映射關系要一一對應,而不是全站都跳到首頁。全站跳首頁會让蜘蛛認為大量舊 URL 都指向同一個頁面,既無法把信号传到對應新頁,也會让新頁面的抓取路径變得混乱。

  • 舊頁有新頁對應:301 到内容最接近的那一頁。
  • 舊頁没有對應内容:返回 410 或 404,比留一個跳首頁的 301 更清楚。
  • 避免鏈式跳轉:A→B→C 會让蜘蛛多走一跳,能合並就合並成 A→C。
  • 避免長期挂 302:临时跳轉不會稳定传递信号。

Sitemap 與内鏈要同步切換

改版当天最好做三件事:新 Sitemap 上线並提交、站内連結批量替換為新地址、舊 Sitemap 停止更新。不要長時間让新舊两套 URL 同时出現在 Sitemap 里,那會让蜘蛛在两批地址之間反复试探,抓取预算被摊薄。

内鏈的替換要覆盖導航、面包屑、正文連結、分頁和列表頁模板。模板层的連結如果漏改,蜘蛛每次顺着模板走都會走到舊地址,再由 301 绕回来,路径變長、效率變低。

舊地址怎么處置

有對應新頁

保留 301 至少几個月,观察舊地址的抓取量下降到很低再考虑撤掉。撤早了,一些還没更新外鏈的入口會直接撞到 404。

没有對應新頁

可以聚合到上一級栏目頁做 301,或者直接返回 410。返回 200 的空頁面是最糟的選擇,蜘蛛會把它当成有效内容繼續保留。

用抓取日誌驗證通路是否真的通

  • 新地址首次被抓的時間,改版後多久出現。
  • 舊地址的抓取量是否在下降,而不是突然归零。
  • 301 命中的數量與分布,是否集中在少數几個舊地址。
  • 404、410 是否出現異常高峰,分別指向哪些路径。
  • 新 Sitemap 里的 URL 被實际訪問的比例。

几個容易踩的坑

  • 用 JS 或 meta refresh 做跳轉,蜘蛛可能不执行或延迟执行。
  • 改版期間顺手收紧 robots.txt,把新目錄也挡在外面。
  • canonical 還指向舊地址,等于自己声明真正的頁面是舊的。
  • 新站服務器不稳定,蜘蛛第一次来就超时,會降低後續抓取意愿。
改版的核心不是發個公告,而是让蜘蛛能用最短的路径走到新地址。通路顺了,URL 發現和抓取节奏自然會跟着回到正常轨道。