先把 sitemap 的作用范围说清楚
很多人在搭蜘蛛池入口頁时,會顺手加一個 sitemap,然後期待搜尋蜘蛛“看到 sitemap 就會来抓所有目标 URL”。這里要先分清两件事:sitemap 是告诉搜尋引擎你有哪些 URL,而不是要求搜尋引擎必须抓取和收錄這些 URL。它能影响的是 URL 被發現、被排進抓取队列的效率,不能决定抓取和收錄的结果。
sitemap 對入口頁能提供的三種實际帮助
1. 让入口頁本身更快被知道
如果入口頁放在新域名或新目錄下,站内又没有其他連結指向它,搜尋蜘蛛很难自然爬到。此时在 sitemap 里列出入口頁 URL,等于给了搜尋引擎一條明确的线索来源。對入口頁數量不多、又是新起的站点来说,這一步能缩短“頁面存在但没人知道”的時間。
2. 补充 HTML 里容易漏掉的入口頁
入口頁之間如果互不連結,靠爬行發現就會很慢。sitemap 可以把這些分散的入口頁集中列出来,让搜尋引擎知道還有哪些頁面待處理。它更像一張目錄,而不是導航。
3. 提供 lastmod 等更新信号
在你更新了入口頁内容後,sitemap 里的 lastmod 字段在被信任的情况下可以提示搜尋引擎重新抓取。不過這個字段被忽略也是常见情况,不要把它当成“催抓工具”。
sitemap 帮不上忙的地方
- 不能保證抓取,更不能保證收錄,最终仍取决于頁面质量和搜尋引擎自己的判断。
- 不能跨域名列出目标連結。sitemap 規范要求里面的 URL 属于同一個主机,把站外目标 URL 寫進入口頁的 sitemap,搜尋引擎通常不會当作有效线索處理。
- 不能替代入口頁里真實可点击的超連結。連結被發現的核心路径仍然是 HTML 里的 a 标簽。
- 如果 sitemap 里塞了大量 404、重复或低质 URL,反而會削弱整体信任度。
那目标 URL 的發現该靠什么
目标 URL 如果和入口頁不同域名,正确做法是:
- 在入口頁 HTML 里用正常的 a 标簽指向目标 URL,保持可点击、可解析。
- 如果目标 URL 属于你自己的站点,就放到目标站自己的 sitemap 里,而不是塞進入口頁的 sitemap。
- 入口頁的 sitemap 只放入口頁自身,内容和頁面上的連結保持一致。
實操建议
- 入口頁數量少且站点較新时,值得做一個 sitemap,並在 robots.txt 里注明地址,同时到搜尋资源平台提交。
- sitemap 只保留能正常返回 200 的入口頁 URL,定期清理失效項。
- 不要把 sitemap 当作批量提交站外連結的通道,那部分工作交给入口頁的正文連結。
- 入口頁已经有稳定外鏈、被频繁回訪时,再加 sitemap 的邊际收益並不明顯,不必為此投入太多。
和纯 HTML 連結相比怎么排優先級
一般来说,頁面内可见的超連結被發現和被跟進的稳定性更高,sitemap 更像是补充线索。入口頁本身没有外鏈、也還没被收錄时,sitemap 的價值相對明顯;入口頁已经被搜尋引擎持續回訪,再补 sitemap 的收益就比較有限。两者不冲突,但不要本末倒置。
sitemap 解决的是“告诉搜尋引擎有哪些入口頁”,不解决“目标 URL 會不會被抓取和收錄”。