聊 URL 發現,大多數人的第一反應是 XML Sitemap。其實站内還有另一個同名東西——用戶能点、蜘蛛能爬的「網站地图」頁面,也就是 HTML sitemap。它替代不了 XML Sitemap,但能补上後者做不到的一件事:给蜘蛛一條可以顺着点下去的站内通路。
两者分工不一样
XML Sitemap 是给抓取器看的清單,作用是告诉搜尋引擎「站里有這些 URL」。但清單只是候選,蜘蛛是否真的去抓,還要看這個地址在站内能不能走到。HTML 站点地图頁解决的正是後一半:它本身就是一個普通頁面,里面全是站内連結,蜘蛛抓完這一頁,等于同时拿到了几十上百條新路径。
它最能帮到哪几類頁面
- 点击深度較深的詳情頁:從首頁要点五六次才到的頁面,在這里可能只隔一次点击。
- 暂时没有入口的新頁面:新栏目還没進全局導航,可以先進站点地图頁。
- 孤儿頁:站内任何地方都不鏈的頁面,至少在這里留一個入口。
需要說明的是,這里说的是「帮助被發現」,不是「保證被收錄」。最终能不能進索引,還是要看頁面本身的质量和重复程度。
内容怎么组织
常见做法是按栏目分区罗列,每块配一個小标题。具体可以注意几点:
- 按频道分组,每组控制在十几到几十條,避免一個列表里堆几百個連結。
- 連結文字用頁面真實标题,不要寫「点击這里」「详见」。
- 重点栏目和热门分類放在靠前位置,蜘蛛和用戶都是從上往下讀。
- 數量确實大时,按字母或按時間拆成多頁,別做成一堵連結墙。
連結數量怎么把握
没有统一标准。一條经驗是頁面体积別太大,單頁連結總數控制在几百條以内,並保證每條連結都指向真實存在的頁面。如果梳理下来有几千條 URL,說明该考虑分片,而不是硬塞。
放在哪里,怎么鏈過去
最常见的做法是挂在頁脚,全站可见,這样每個頁面都能顺带给站点地图頁一個入口。站点结构复杂的话,也可以在主導航或「關于」類目下给它一個位置。頁面本身不要加 noindex,也不要用 JS 動態生成列表,否則等于把入口又藏回去了。
容易踩的几個坑
- 全是 nofollow:頁面上所有連結都加了 nofollow,等于白做。
- 只放首頁和栏目頁:那它和導航重复,對深层 URL 没什么帮助。
- 從不更新:新頁面几個月都不進列表,這條通路也就慢慢断了。
- 和 XML Sitemap 混為一谈:两個都做,各自服務不同场景,不用二選一。
和面包屑、内鏈配合使用
站点地图頁只是入口的补充。真正决定抓取路径顺不顺畅的,還是栏目頁、列表頁、面包屑和正文内鏈组成的網絡。可以把站点地图頁理解成一張總目錄:它把深层 URL 拉到浅层,剩下的路還是要靠正常的站内連結接上。做完之後,隔一段時間看看蜘蛛有没有来抓這一頁、抓完之後有没有顺着里面的連結繼續走,比單纯提交一個文件更有參考價值。
站点地图頁的價值不在于「多一個頁面」,而在于它把站内最短路径這件事變得可见:哪些 URL 要绕很多层才能到,一眼就能看出来。