搜尋抓取

移動優先抓取:蜘蛛在移動版頁面上走的路径,可能和桌面版不一样

移動優先抓取下,蜘蛛看到的是移動版 HTML,抓取路径也由移動版的連結结构决定。移動版砍掉頁脚導航、相關推荐或正文,會直接影响抓取覆盖。本文梳理三種站点形態的路径差异、常见踩坑点與自查清單。

搜尋抓取

移動優先抓取:蜘蛛在移動版頁面上走的路径,可能和桌面版不一样

很多站点在桌面端和移動端展示的内容並不完全一致:桌面版有完整導航和侧栏推荐,移動版為了首屏速度把一部分模块折叠甚至不渲染。蜘蛛抓取时以哪一版為准,直接决定它能沿着哪些連結往下走。

移動優先抓取,抓的是哪一版

現在主流搜尋引擎以移動端用戶代理来抓取頁面,並把它作為主要的索引依據。也就是说,蜘蛛通常带着移動 UA 請求你的 URL,拿到的是移動版返回的 HTML,再以這份 HTML 為起点繼續發現連結、判断内容。

這带来一個容易被忽略的後果:抓取路径是由移動版的連結结构决定的。桌面版頁脚里那几十條分類連結、侧栏里的相關推荐,如果移動版没有輸出到 HTML 里,蜘蛛就不會沿着它們走。

三種站点形態,路径各不相同

  • 响應式设計:同一套 HTML,靠 CSS 适配。這是最省事的一種,移動端和桌面端連結基本一致,抓取路径没有明顯分叉。注意別指望用 CSS 隐藏内容来影响蜘蛛——隐藏的内容仍在 HTML 里,照样能被讀到。
  • 獨立移動域名(m. 或單獨子域):蜘蛛抓 m 站,桌面站靠 alternate 标注關联。此时 m 站的導航、内鏈、Sitemap 才是蜘蛛的主路径。桌面站的連結改得再好,對移動抓取帮助有限。
  • 動態服務(同一 URL 返回不同 HTML):靠 UA 判断返回哪一版。這種最容易出問题,因為两版的連結差异完全由後端模板决定,稍不注意移動版就少了一批入口。

移動版少的不只是内容,還有連結

為了首屏速度,移動版经常砍掉:頁脚的整站導航、面包屑、相關文章列表、分頁入口。這些恰恰是蜘蛛往下走的主要通道。砍掉之後問题不一定立刻顯現,但抓取覆盖會慢慢變浅——深處頁面回訪間隔被拉長,新頁面被發現的速度也變慢。

更麻烦的是内容不一致:移動版只顯示摘要、把正文放在 JS 里异步加载,或者干脆返回一段提示语。蜘蛛拿到的是一個信息量很低的頁面,既判断不出主题,也找不到繼續走的理由。

移動版可以更简洁,但不能只剩一副骨架。蜘蛛需要的是可讀的内容和可跟随的連結,而不是一個只有标题和按钮的壳。

自查清單

  1. 用移動 UA 請求關键頁面,看返回的 HTML 里有多少條内鏈,和桌面版對比差多少。
  2. 關掉 JS 再看一遍,確認主要内容與連結是服務端直接輸出的。
  3. 检查 m 站的 Sitemap 是否完整,是否存在指向桌面版的無效跳轉。
  4. 核對两版的 canonical 與 alternate 标注是否互相指向、成對出現。
  5. 抽查移動版正文長度,是否明顯短于桌面版。

怎么調整

優先保證移動版的服務端 HTML 里保留核心導航和分頁入口,哪怕在样式上折叠起来。獨立移動域名要维護好自己的内鏈和 Sitemap,別把它当成桌面站的附属品。如果短期内做不到两版一致,至少要保證正文主体和主要入口在移動版里能拿到。

另外,改動移動版模板後,观察一段時間蜘蛛在移動 UA 下的抓取量與命中分布,比只看桌面版日誌更能反映真實情况。