站点运营

站点运营:服务器迁移与 DNS 切换,别让蜘蛛在解析变更时迷路

服务器迁移不只是把文件搬过去。DNS TTL、证书、CDN 回源和旧站跳转,都会影响蜘蛛按原 URL 抓取时的体验。本文按迁移前、切换时、切换后三个阶段梳理检查点,减少解析变更期间的抓取失败与状态码异常。

站点运营

站点运营:服务器迁移与 DNS 切换,别让蜘蛛在解析变更时迷路

服务器迁移、换 IP、换 CDN 或换主机商,表面上是运维动作,但蜘蛛看到的是另一回事:同一个 URL,解析结果变了、响应头变了、证书变了。如果切换过程粗糙,抓取日志里就会出现连接超时、SSL 错误、404 或 503。本文按迁移前、切换时、切换后三个阶段,整理一份偏站点运营视角的检查清单。

迁移前:把 TTL 和旧环境安排好

DNS 的 TTL 决定了解析记录在各地递归服务器里能缓存多久。如果 TTL 是 24 小时,切换后部分蜘蛛可能仍访问旧 IP,旧服务器一旦关机,抓取就会失败。

  • 提前 24 到 48 小时把主要记录(A、AAAA、CNAME)的 TTL 调低,例如 300 秒或 600 秒,给切换留出缓冲。
  • 确认新环境已经能完整响应:首页、栏目页、详情页、robots.txt、sitemap.xml 都能正常返回 200。
  • 如果站点启用 HTTPS,先在新服务器部署证书,检查证书链是否完整,避免部分客户端报错。
  • 不要只改根域名。带 www、不带 www、旧域名、移动端域名,都要列出来逐项确认。

切换时:用真实请求验证,而不是只看控制台

DNS 控制台显示“已生效”,不代表所有地区、所有递归都立刻拿到新记录。切换窗口内,建议用多种方式验证。

检查解析与响应头

  • 用不同地区的公共 DNS 查询,确认返回的是新 IP 或新 CNAME。
  • 对重要 URL 发 HEAD 或 GET 请求,看状态码、重定向链、响应时间,别只看浏览器缓存后的页面。
  • 检查 HTTPS 是否仍指向正确证书,尤其是使用 CDN 时,回源协议和证书容易配错。

验证蜘蛛入口

robots.txt、XML 站点地图和 HTML 站点地图,是蜘蛛了解站点结构的重要入口。切换后逐项访问:robots.txt 是否 200、里面是否误写了 Disallow、sitemap 是否指向新域名、页面里的 canonical 和 hreflang 是否还指向旧地址。如果迁移伴随域名更换,旧 URL 到新 URL 的 301 要提前准备,并保持至少数月。

切换当天不建议同时做大规模改版、改 URL 结构或改 robots.txt。多个变量叠在一起,日志会很难判断问题来自哪里。

切换后:用日志和状态码收尾

解析生效后,观察服务器日志和 CDN 日志。重点看蜘蛛请求的状态码分布:如果 5xx 明显上升,优先查新环境资源、数据库连接和防火墙;如果 404 上升,查是不是旧 URL 没有跳转;如果 403 上升,查是否误拦了蜘蛛 IP 或 UA。

  • 保留旧服务器一段时间,只做 301 跳转或静态响应,不要立刻释放 IP。
  • 检查页面内资源:CSS、JS、图片、字体是否仍引用旧域名,避免混合内容或额外重定向。
  • 如果使用 CDN,确认缓存策略没有把旧页面长期缓存,必要时刷新关键 URL。
  • 观察抓取频次和收录量变化,给搜索引擎几周时间重新爬取和更新索引。

几个常见坑

  1. 只改 A 记录,忘了 MX、CNAME 或子域名,导致部分功能不可用。
  2. 新服务器防火墙默认拒绝所有流量,蜘蛛请求被挡,但监控只看了本机。
  3. CDN 回源仍指向旧 IP,表面访问正常,实际回源失败或回源到旧站。
  4. HTTPS 证书只配了主域名,www 或子域名证书不匹配。
  5. 旧站直接关机,没有 301,也没有保留可访问的过渡页。

迁移不是一次性动作。把 DNS、证书、回源、跳转和日志观察拆成清单,逐项确认,比事后排查更省时间。蜘蛛的抓取窗口不会等站点准备好,但一个平稳的切换过程,可以让它少踩几个坑。