很多人把 nofollow 当成“蜘蛛別走這條路”的開關,實际它更像一個提示:告诉搜尋引擎這個連結的信任度或商业性质不同。蜘蛛不會因為一個 nofollow 就完全看不到目标 URL,但這條路径的優先級、權重传递和後續抓取频率都會受影响。
三種連結属性分別解决什么問题
- nofollow:最早用于标记不可信或付費連結。現在多數搜尋引擎把它当作“不传递權重”的提示,而不是绝對的抓取禁令。
- sponsored:明确标注广告、赞助或联盟連結,比 nofollow 更细。
- ugc:用戶生成内容里的連結,比如评论、论坛帖子。用于区分站方推荐和用戶自發連結。
三者共同点是:不传递權重信号,但目标 URL 依然可能被發現,只是被發現的方式和抓取安排不同。
蜘蛛遇到 nofollow 連結时會怎样
常见情况有三種:
- 連結被忽略:不進入常規抓取队列,目标 URL 需要靠 Sitemap、外鏈或別處内鏈被發現。
- 連結被记錄:蜘蛛记下 URL,但降低抓取優先級,可能很久才回訪。
- 連結照常走:部分搜尋引擎會把 nofollow 当建议,尤其当同一目标在別處有正常連結时。
所以關键不是“有没有 nofollow”,而是這條路径是不是主干路径上唯一入口。如果導航、栏目頁、詳情頁之間只靠一個 nofollow 連結相连,蜘蛛的路径就會在這里變窄。
容易把抓取路径改坏的几種寫法
- 全站内鏈加 nofollow:常见于早期“權重集中首頁”的做法。结果蜘蛛在頁面上找不到可繼續走的入口,抓取覆盖停在栏目层。
- 導航加 nofollow:導航通常是站内最重要的路径。加了属性,蜘蛛仍可能從 Sitemap 知道 URL,但拿不到導航层面的重要性信号。
- 分頁加 nofollow:列表第二頁、第三頁被标记後,深层條目只能靠單獨入口被發現,路径衰减更快。
- 把推廣頁的 nofollow 用到正文推荐:正文里指向自己站内優质内容的連結,如果也寫 nofollow,會让蜘蛛誤判這段内容不值得延伸。
判断标准很简單:這個連結如果是用戶找下一步的主要入口,就不该随便加 nofollow。
修正思路:让連結属性和路径目标一致
先分清三层:導航和栏目要保持可正常抓取,正文推荐按内容相關性决定,广告、赞助、用戶评论用 sponsored 或 ugc 标注。不要用 nofollow 替代 robots.txt:robots 决定能不能抓,nofollow 影响的是權重與優先級,两者混用會让日誌里的抓取路径更难解释。
如果已经加了属性,可以看服務器日誌里這些入口的抓取频次變化,再结合 Sitemap 覆盖情况判断:目标 URL 是否還有別的正常入口。若没有,就把主干路径补回来。
上线前可以快速检查這几点
- 主導航、面包屑、栏目列表是否都是普通連結;
- 正文内鏈是否只有真正不想推荐的才加 nofollow;
- 分頁和“下一頁”是否可正常抓取;
- 广告與联盟連結是否用 sponsored 标注,而不是全站 nofollow;
- Sitemap 中是否覆盖了那些只靠 nofollow 連結出現的 URL。
連結属性本身不复杂,复杂的是它改變了蜘蛛在站内走路的偏好。把入口留给用戶也留给蜘蛛,路径才不會越走越窄。