站点改版、換目錄、迁移域名,本质上是把蜘蛛已经记住的那張地图撕掉重画。舊 URL 還留在它的抓取队列里,新结构却已经上线,這段時間蜘蛛會频繁来回试探。抓取路径铺得顺,恢复期就短一些;铺得乱,可能几個月都在抓一堆重定向。
先把舊 URL 的出口交代清楚
迁移第一步不是急着發新連結,而是让每個舊地址都能明确指向唯一的去向。
- 一對一 301:舊頁面對應最相關的新頁面,不要整站 301 到首頁,那等于告诉蜘蛛這些内容已经没有了。
- 尽量避免鏈式跳轉:A→B→C 這種连續 301 會让蜘蛛多走几跳,抓取時間被白白消耗,能一步到位就別分两步。
- 頁面級映射優先于規則匹配:能用精确映射就用精确映射,模糊規則一旦匹配错,會把大量不相關的 URL 一起卷進来。
重新给蜘蛛铺入口
抓取路径的起点通常是首頁、導航和 Sitemap。改版後這三處要同步更新,否則蜘蛛還在沿着舊内鏈走,走两步就撞上 404。
Sitemap 換成新地址
新 Sitemap 提交之後,舊的不要立刻删掉,保留一段時間让蜘蛛把重定向抓完。Sitemap 里只放最终可訪問的規范 URL,別把跳轉地址也寫進去,否則等于把蜘蛛往重定向鏈上引。
内鏈按新层級接上
導航、面包屑、相關推荐是蜘蛛發現新 URL 的主要通道,改版时最容易漏掉的却是正文里的老連結。它們指向的往往已经是跳轉地址,能直接改成新地址就改,减少一次不必要的跳轉。
顺手把 URL 寫法统一
改版是统一規范的好时机:大小寫、结尾斜杠、www 與非 www、http 與 https,只保留一種寫法,其余全部 301 到規范形式。寫法不统一,同一個頁面會被当成多個 URL,抓取量被分成几份,谁都抓不透。
让新结构本身好走
蜘蛛偏好清晰的层級:首頁 → 栏目 → 列表 → 詳情,点击深度控制在三四步以内,重要栏目放進導航,而不是只靠角落里的一個聚合頁。如果新站把所有内容塞進同一個列表,蜘蛛會反复抓這個列表,深處頁面反而更慢被發現。
抓取路径设計的核心不是让蜘蛛多抓,而是让它把有限的時間花在還活着的、有價值的 URL 上。
服務器要扛得住回訪
迁移後蜘蛛的回訪會比平时密集。如果這段時間服務器频繁超时、返回 5xx,它很可能主動降低抓取频率,新頁面被發現的节奏也跟着慢下来。改版上线尽量避開流量高峰,提前准备好缓存和扩容,至少保證導航頁、列表頁能稳定返回 200。
迁移後盯几個信号
- 日誌里舊 URL 的請求占比是否在下降,說明蜘蛛正在接受新地址。
- 301 是否返回正确,有没有 302、404 混在里面。
- 新 URL 的抓取频次有没有逐步起来,尤其是二級、三級頁面。
- Sitemap 的抓取情况,是否還有大量舊地址残留。
整個過程没有哪一步能保證收錄或排名,能做的是把路径上的坑填掉:出口明确、入口更新、层級清晰、服務稳定。剩下的交给蜘蛛自己走。