站点运营

站点运营:站点地图更新與拆分自查,別让新頁面在發現清單里缺席

站点地图常被当成一次配置就完事的工作,结果文件里堆着失效地址,新栏目却迟迟没進去。本文從清單内容、lastmod 真實性、文件規模與拆分、提交节奏几個角度,梳理一份可执行的 sitemap 自查清單,並說明如何用服務器日誌判断它是否真的在起作用。

站点运营

站点运营:站点地图更新與拆分自查,別让新頁面在發現清單里缺席

站点地图(sitemap)是站点主動向搜尋引擎說明“我有哪些頁面”的文件。它不保證頁面被收錄,也不保證排名,但确實能帮助蜘蛛更快發現新地址、了解頁面的更新時間。不少站点把它当成一次性配置,上线时提交一次就再没管過,结果文件里躺着几百個已经刪除的 URL,新開的栏目却一個都没進去。

先確認它到底在做什么

常见的誤解是把 sitemap 当作收錄開關。實际上它更像一份對外的地址清單:告诉爬虫哪些 URL 存在、大概多久更新一次。真正决定是否收錄的,還是頁面本身的质量、可訪問性和站内連結结构。把它整理干净,收益是让發現過程更顺畅,而不是让頁面凭空出現。

内容自查清單

清單里有没有不该出現的地址

  • 已設定 noindex 的頁面不必再放進 sitemap,两邊信号互相矛盾。
  • 返回 404 或 301 的舊地址,應從清單中移除或替換成最终地址。
  • 带跟踪參數的 URL、站内搜尋结果頁、分頁的深层翻頁,通常不值得單獨列出。
  • 需要登入才能訪問的頁面,蜘蛛拿到的只是跳轉或空白,列進去意义有限。

lastmod 要尽量真實

有些 CMS 在發布任何内容时都會刷新全站 lastmod,结果所有頁面的更新時間都顯示為今天。這類信号用久了會被忽略。更稳妥的做法是让 lastmod 只在正文實质變化时更新,比如内容修订、價格調整、資料补充,而不是模板改動或评论新增。

單文件規模與拆分

單個 sitemap 文件一般建议不超過 5 萬條 URL,未压缩体积控制在 50MB 以内。内容量大的站点可以按栏目或内容類型拆分,再用一個索引文件把它們串起来。這样局部更新时不必重寫整份文件,排查問题也更快。

格式與訪問细节

  • URL 寫完整地址,包含协议與域名,不要只用相對路径。
  • 特殊字符做轉义,避免解析失敗。
  • XML 声明與命名空間按規范寫,別手工拼出语法错誤。
  • 文件本身要能直接訪問並返回 200,不要被 robots.txt 挡住。

更新與提交的节奏

  1. 内容發布後只重建對應栏目的 sitemap,而不是每天全量重寫。
  2. 在 robots.txt 中声明 sitemap 地址,方便爬虫自行發現。
  3. 在搜尋资源平台手動提交有變更的部分,作為补充手段。
  4. 每月抽查一次:随机取几條 URL,確認可訪問、内容與清單描述一致。

怎么判断有没有起作用

比較直接的办法是看服務器日誌:統計蜘蛛對 sitemap 文件的請求频率,以及請求之後是否跟進了對清單中新 URL 的抓取。如果文件每天被拉取,新頁面却迟迟没動静,問题通常不在 sitemap,而在站内連結、頁面质量或服務器响應速度上。反過来,如果日誌里几乎看不到對 sitemap 的請求,先检查文件是否可訪問、是否寫错了域名。

站点地图能做的只是把门牌号寫清楚,訪客進不進来,還是要看屋里有什么。

小结

把 sitemap 当作一項需要長期维護的基础設定:定期清理失效地址、保證 lastmod 诚實、規模大了就拆分、發布後及时更新。它不會让排名凭空上升,但能让新内容少走一些弯路。