網站收錄

頁面發布前的收錄自检:上线前值得核對的几件事

不少收錄問题其實在頁面發布那一刻就埋下了。這份清單按“能不能被抓到、抓到的是不是你想要的那一版、内容值不值得進索引、上线後怎么观察”四步展開,帮你把 URL 可訪問性、robots 誤伤、canonical 指向、重复内容和渲染方式等問题在上线前就排查掉,减少事後反复返工。

網站收錄

頁面發布前的收錄自检:上线前值得核對的几件事

多數收錄問题不是發布之後才出現的,而是在發布那一刻就埋下了。URL 寫错、robots 誤伤、canonical 指偏、正文和站内其他頁面高度相似——這些都能在上线前花几分钟發現。下面這份清單按“能不能被抓到、抓到的是不是這一版、值不值得進索引、上线後怎么观察”四步来走。

一、先確認這個 URL 能被發現

  • 站内有連結指向它。至少有一條来自相關性較高頁面的内鏈,点击深度不要太深。完全没有内鏈的頁面,只能靠外部連結或站点地图碰运气。
  • 直接訪問返回 200。用不带登入態、不带 Cookie 的方式打開一次,確認没有被 302 到登入頁、首頁或错誤頁。
  • robots.txt 没有誤伤。新目錄、測試路径、临时規則很容易把整段路径一起屏蔽,改完規則最好用實际 URL 驗證一次。
  • 需要的话放進 sitemap。站点地图不是收錄保證,但它能让新 URL 更快進入抓取队列,尤其是内鏈較少的頁面。

一個容易忽略的细节

如果同一内容存在多個入口,比如列表頁带排序參數、带跟踪參數,或者大小寫、尾斜杠寫法不统一,先在發布前把主版本定下来,把其他入口统一指向它。等到被拆成好几個 URL 再回来收拾,成本高得多。

二、抓到的是不是你想要的版本

  • canonical 指向自己,或者明确指向真正的主版本,不要指向一個 404 或重定向地址。
  • 狀態碼语义正确。内容已经下架的頁面不要繼續用 200 承载,避免搜尋引擎把它当成有效頁面反复抓取。
  • 渲染方式確認過。如果正文依赖客戶端渲染,確認關键内容在渲染後可见,而不是留一個空壳给蜘蛛。
  • 移動端和桌面端一致。同一 URL 在两端的正文差异過大时,索引里留下的那一份可能不是你想展示的。

三、内容层面值不值得進索引

抓取和收錄是两件不同的事。抓取是讀取頁面,是否保留在索引里則取决于搜尋引擎對頁面價值的判断。索引的存储和检索都有成本,所以取舍是常態。發布前可以從几個角度自查:

  • 标题、H1 和首段是否在说同一件事,讀者能不能一句话概括這個頁面。
  • 和站内既有頁面有没有大面积重复,參數頁、變体頁、聚合頁尤其常见。
  • 正文是否有獨立信息量,而不是一個列表加两三句占位說明。
  • 标题和摘要是否提供了区別于其他頁面的信息,避免整站同一套模板文案。
一條经驗:同一批新頁面里只有個別没被收錄,先看那一頁和其他頁的差异;如果整批都没動静,問题更可能出在目錄层級、robots 規則或站点地图层面。

四、上线之後別急着動手

發布後一两天内,頁面狀態顯示“已發現,尚未抓取”或“已抓取,尚未编入索引”都很常见,多數情况只是排队。這個阶段频繁改标题、改正文、反复提交,反而让狀態来回跳動,也不利于判断真正的問题在哪。

更稳妥的做法是留一個观察窗口:先看服務器日誌里有没有针對這個 URL 的抓取记錄,再看索引狀態有没有變化。如果确實有抓取但迟迟不進索引,再考虑是补内鏈、加内容,還是調整 canonical 或 robots 設定。

一份可执行的核對顺序

  1. 能否從站内連結到達,内鏈是否相關。
  2. 直接訪問是否返回 200,是否被 robots.txt 放行。
  3. canonical 與狀態碼是否指向正确的主版本。
  4. 标题、正文是否與站内其他頁面明顯区分。
  5. 發布後观察抓取记錄和索引狀態,再决定是否動手調整。

把這五步固定成發布流程的一部分,能让很多收錄問题在發生之前就被挡掉,剩下的才交给時間和搜尋引擎的判断。