内容下架、栏目關停、活動結束、商品停售,這些動作在後台点一下就能完成,但搜尋引擎索引里的那條记錄不會跟着一起消失。很多人以為連結打不開就等于被删掉了,其實“頁面下线”和“索引條目消失”是两件事,中間隔着一次抓取、一次判断和一段不确定的等待時間。
先分清两件事
頁面下线指的是服務器對某個 URL 的响應變了;索引條目消失指的是搜尋引擎在重新抓取後,確認這個 URL 不再值得保留,把它從索引里拿掉。前者你完全可控,後者只能通過前者释放的信号去影响。所以下线的關键不是“删得干净”,而是“信号给得清楚”。
三種常见的下线方式
404:預設選擇
頁面不再存在,也没有合适的替代内容时,返回 404 是常規做法。它表達的是“這個地址現在没有東西”。缺点是不够明确——搜尋引擎會把它当成一種临时性的不确定狀態,可能保留观察一段時間,也可能認為是你配置错了,隔一阵再来確認。
410:態度更明确
410 表示“资源已永久移除”。對搜尋引擎来说這是個更确定的信号,理论上索引清理會相對干脆一些。但不要為了求快就把所有 404 都改成 410:如果頁面日後還可能恢复,或者只是暂时的技術故障,410 會造成不必要的麻烦。
301:有替代内容时才用
如果下线是因為内容合並、改版迁移、商品換了連結,那應该用 301 指向新的地址,而不是让它 404。這里有個常见誤区:把一個已经决定不要的頁面 301 到首頁。首頁和原頁面的主题無關,用戶和搜尋引擎都會觉得被糊弄,這種做法對双方都没有好處。
noindex 该在什么时候用
noindex 的作用是“可以訪問,但不要收錄”。它适合頁面還在、但你不希望它出現在索引里的情况,比如临时的登入後頁面、站内检索结果、還在评审中的内容。需要注意的是,noindex 是頁面級的 meta 标簽,如果頁面本身返回 404,或者被 robots.txt 拦住抓取,搜尋引擎根本看不到這個标簽,也就無從执行。常见的错誤是既用 robots.txt 屏蔽抓取,又指望 noindex 生效。
下线之後還要做的收尾
- 把该 URL 從 sitemap 里移除,別让站点地图繼續推荐一個已经下线的地址。
- 清理站内指向它的連結。留着大量指向 404 的内鏈,既浪費抓取,也让用戶走到死路。
- 检查導航、面包屑、相關推荐、聚合頁這些容易漏掉的入口。
- 如果頁面被 301 到新地址,確認新頁面自己的 canonical 指向自己,不要指回舊地址。
- 外部連結無法控制,但可以留意那些点击量較大的外鏈来源,必要时联系對方更新。
观察节点
下线後的一段時間里,可以做几次抽样:用 site 查询或直接搜尋頁面的特征标题,看舊條目是否還在;翻蜘蛛日誌,看搜尋引擎是否還来抓這個地址,返回的是不是你想要的狀態碼。索引清理本来就没有固定周期,几周、几個月都算正常。如果迟迟没有變化,先回头確認狀態碼、noindex 标簽、robots 規則是不是互相打架,而不是急着再叠一层處理。
把“刪除内容”和“刪除索引”当成同一件事,是下线环节最常见的错位。前者是操作,後者是结果。