搜尋抓取

锚文本與連結位置:蜘蛛在頁面上如何挑選下一個 URL

蜘蛛解析頁面後,會按連結出現的位置、上下文文字和整頁連結數量决定下一步抓取哪里。本文說明導航、正文内鏈、侧栏與頁脚在抓取中的差別,锚文本如何帮助蜘蛛理解目标頁,以及怎样用少量内鏈為目标頁面铺出一條稳定、可被跟進的抓取路径。

搜尋抓取

锚文本與連結位置:蜘蛛在頁面上如何挑選下一個 URL

蜘蛛挑連結,並不是随机走

搜尋引擎的抓取程序拿到一個頁面後,會解析出其中的連結,放進待抓取队列。它不會平等對待每一個連結:連結出現的位置、周围的文字、以及整頁連結的總數,都會影响它下一次往哪里走。理解這一点,往往比反复提交 URL 更有長效。

位置不同,連結的分量不同

各家算法的细节不公開,但從抓取日誌和實际观察看,頁面上不同区域的連結,被跟進的概率差別明顯。

  • 主導航:几乎每頁都會出現,蜘蛛每次訪問都能看到,是站点结构最稳定的入口。改動導航,整站的抓取路径通常也會跟着變化。
  • 正文内鏈:上下文最清晰,蜘蛛能通過锚文本判断目标頁主题,一般是最有價值的路径。
  • 侧栏與推荐位:如果全站每個頁面都一样,容易被识別為模板区域,跟進優先級通常會下降。
  • 頁脚:版權、备案、帮助中心這類連結一般會被跟進,但頁脚堆满關鍵詞連結时,這部分反而容易被整体忽略。

锚文本是给蜘蛛看的路标

锚文本不只描述点击後去哪里,也是蜘蛛判断目标頁主题的一條线索。一個頁面被来自多個相關頁面的描述性锚文本指向,比只被“点击這里”“阅讀更多”指向,更容易被理解。

几條實操经驗

  • 重要頁面尽量從多個相關頁面用描述性锚文本指向它,而不是全站頁脚挂一個“詳情”了事。
  • 同一目标頁的锚文本可以多样,但要落在同一主题范围内,避免用完全不相干的词。
  • 避免站内大量使用图片連結且不寫 alt,蜘蛛拿不到任何文字线索。

連結數量與密度

一個頁面放几百個連結,蜘蛛未必會全部跟進。連結越多,單個連結分到的注意力越薄;如果其中大部分是篩選、排序等參數 URL,還會挤占真正有價值的抓取額度。對列表頁和聚合頁,通常建议只保留對用戶和蜘蛛都有意义的連結,參數連結做收敛處理,翻頁不要無限延伸。

给重要頁面铺一條稳定路径

  1. 先确定 5 到 20 個最重要的目标頁,比如核心栏目頁和主要詳情頁。
  2. 检查從首頁到這些頁面,能否在 3 次点击内到達。
  3. 在相關正文里补上上下文内鏈,锚文本寫清目标頁的主题。
  4. 確認路径上的中間頁没有被 robots 屏蔽,也不存在跳轉鏈。
  5. 過几周看抓取日誌,观察目标頁的抓取频次是否上升,再决定要不要繼續加連結。

几個常见誤区

  • 只靠 sitemap 不靠内鏈:sitemap 帮助發現 URL,但頁面之間的路径才决定蜘蛛愿意走多遠。
  • 全站導航堆满連結:入口太杂,重点反而模糊。
  • 連結都指向首頁:詳情頁長期缺少指向,抓取频次會一直偏低。
連結结构的調整通常需要几周才能從日誌里看出變化,別指望改完第二天就有反馈。

说到底,内鏈是给蜘蛛画的一張路线图。路线清晰、指向明确,抓取效率通常能稳定下来;路线混乱时,再多的提交和 sitemap 也很难补上。