蜘蛛跟不跟,不只看有没有連結
搭建蜘蛛池时,很多人把精力都放在頁面數量和入口站數量上,連結本身却是随手一放,锚文本直接複製粘贴。结果日誌里蜘蛛确實来了入口頁,却不怎么進内頁,更谈不上走到目标站。原因不难理解:連結能被看见只是第一层,蜘蛛會不會顺着爬,還取决于連結周围的文字、連結在頁面里的位置,以及整頁對蜘蛛来说是否「讀得懂」。
锚文本:给蜘蛛的一句话說明
锚文本可以理解成對目标頁的一句话概括。蜘蛛抓到一個連結时,會把連結文字、上下文以及目标頁内容做關联。如果全站所有連結都用同一個词,時間一長就成了明顯的模板特征,頁面之間的差异被磨平,蜘蛛對每條連結的判断也就趋于一致,反而更少深入。
更稳妥的做法是围绕同一個目标頁准备一组意思相近、表述不同的锚文本,按入口頁的主题分派下去:
- 锚文本與目标頁主题保持一致,不要用完全無關的词硬拉。
- 避免全站统一模板,同一目标頁在不同入口頁里換不同的说法。
- 「点击這里」「更多」這類没有信息量的锚文本,對蜘蛛判断目标頁帮助有限。
連結上下文:蜘蛛讀的是句子,不是孤立的 URL
連結周围那一两句话,通常比锚文本更長,也更能說明問题。如果入口頁是几百條連結罗列,每條都是光秃秃的 URL,蜘蛛很难判断每條指向什么,繼續抓取的意愿自然有限。把連結放進一段有實际内容的文字里,哪怕只有一两句,頁面對蜘蛛来说也多了些可讀的東西。
連結是给蜘蛛的入口,上下文是给蜘蛛的理由。只有入口没有理由,蜘蛛走两步就停了。
連結位置與密度
正文中的連結、内容区里的連結、頁脚和侧栏的連結,在頁面结构中的位置不同,获得的關注程度也不同。這不意味着頁脚連結没有用,而是不要把全部希望押在頁脚。同时要控制單頁連結總量:入口頁放几十條連結還算克制,如果是纯連結墙,几百上千條挤在一頁,蜘蛛能分给每條連結的時間和带宽都很有限。
與其铺满,不如少放几條、每條都配上說明,让蜘蛛在有限的一次訪問里抓到更多有效信息。
几個常见的認知誤区
- 以為锚文本堆關鍵詞就能传递權重。過度堆砌反而让頁面看起来像目錄,蜘蛛未必會跟着走。
- 以為連結越多蜘蛛来得越多。連結是出口不是入口,蜘蛛的来源仍然是外部連結和主動提交。
- 以為给連結加 nofollow 蜘蛛就不来了。nofollow 是提示不是墙,蜘蛛仍可能訪問,只是不传递信号。用它控制不该被抓的連結可以,別指望靠它隐藏。
- 以為用了蜘蛛池目标頁就一定會被收錄。蜘蛛池影响的主要是 URL 發現和抓取這一段,收錄與否還要看目标頁自身的情况。
怎么检查、怎么調
比較實际的做法是回看服務器日誌:按入口頁分组,統計蜘蛛從入口頁進入内頁、再進入目标頁的次數,找出那些「蜘蛛来了但不往里走」的頁面,優先從這里改锚文本和上下文。也可以挑一两個入口頁,把連結從纯罗列改成段落式排布,隔一段時間對比蜘蛛行為有没有變化。
調整时一次只動一個變量,才看得清是哪一步起了作用。整批改完再對比,很难归因。
小结
蜘蛛池的作用是把 URL 摆到蜘蛛面前,而蜘蛛愿不愿意繼續往下走,取决于入口頁有没有把這件事讲清楚。锚文本说清目标頁是什么,上下文给出跟下去的理由,位置和密度决定蜘蛛在有限時間里能看多少。這几件事都不复杂,难的是保持一致,並且在日誌里持續驗證,而不是布置完就不再看。