搭建入口頁时,很多人會顺手给指向目标 URL 的連結加上 rel="nofollow",以為這只是“不传递權重”,不影响蜘蛛發現。實际上 nofollow 影响的不只是權重,它還會改變搜尋蜘蛛對這條連結的抓取意愿。搞清楚這一点,才知道在蜘蛛池里该不该用它。
nofollow 表達的是什么意思
nofollow 最早的作用是告诉搜尋引擎:這條連結不是我自己推荐的,不要按正常連結對待。落到具体行為上,它包含两层含义:一是不把這條連結当作投票,二是不保證會去抓取連結指向的地址。
注意“不保證”這三個字。它不是一個硬性禁令,而是一個提示(hint)。搜尋引擎可以自行决定是否跟進,這就導致同一條連結在不同引擎、不同時間点的结果可能不一样。
不同搜尋引擎的處理差异
- Google:把 nofollow 当作提示,可能仍然抓取這個 URL,只是不传递信号。是否真的抓,取决于该 URL 是否從別處被發現,以及站点整体的抓取價值。
- Bing 等:過去执行得更嚴格,倾向于不跟進;近年也在向提示化靠拢,但保守處理仍属常见。
- 中小引擎與部分站内搜尋:規則不统一,有的直接忽略,有的完全遵守。
结论是:加了 nofollow 之後,目标 URL 被發現的概率會明顯下降,但不會归零。如果你的目标就是让目标 URL 尽量被看到,那這是一個负向操作。
rel="ugc" 和 rel="sponsored" 能不能用
這两個属性是 nofollow 的细分版本:ugc 用于用戶生成内容(评论、论坛帖),sponsored 用于付費連結。它們同样属于提示類属性,對抓取的影响與 nofollow 接近。
關键問题在于“是否如實”。入口頁明明是你自己控制的頁面,却标成 ugc 或 sponsored,就是属性與内容不符。這種不一致本身容易被识別為異常信号,得不偿失。
頁面級 nofollow 影响范围更大
連結級 nofollow 只管一條連結,而頁面級的 <meta name="robots" content="nofollow"> 以及 HTTP 响應头里的 X-Robots-Tag,作用于整頁所有連結。一旦寫错,入口頁上所有指向目标 URL 的連結都會被打上标记。
排查入口頁問题时,先看响應头再看 HTML。不少“連結明明在,蜘蛛却不来”的情况,源头就是响應头里多了一個 nofollow。
蜘蛛池场景下的處理建议
- 想让目标 URL 被發現的入口頁,不要加 nofollow。連結級、頁面級、响應头級,三處都要检查。
- 确實不想传递權重的連結可以加,但要接受發現概率下降。如果你指望這條連結做 URL 發現,就別加。
- 不要用 nofollow 控制抓取频率。频率控制應该交给 robots.txt、站点响應速度和内鏈结构。
- 用日誌驗證,而不是靠猜。加之前和加之後分別看搜尋蜘蛛對目标 URL 的抓取记錄,再决定保留還是去掉。
一個常见的誤判
有人發現加了 nofollow 目标 URL 還是被抓了,就断定 nofollow 没用。更可能的原因是:這個 URL 從別的入口頁、sitemap 或外鏈已经被發現,nofollow 那條連結只是陪跑。判断 nofollow 是否生效,要看只通過這一條連結能否被跟進,而不是看最终结果。
反過来,去掉 nofollow 也不等于一定被抓。它只是把提示恢复成正常狀態,剩下的仍然取决于連結在頁面中的位置、入口頁质量、目标 URL 的可訪問性和服務器响應速度。