多數收錄問题不是發布之後才出現的,而是在發布那一刻就埋下了。URL 寫错、robots 誤伤、canonical 指偏、正文和站内其他頁面高度相似——這些都能在上线前花几分钟發現。下面這份清單按“能不能被抓到、抓到的是不是這一版、值不值得進索引、上线後怎么观察”四步来走。
一、先確認這個 URL 能被發現
- 站内有連結指向它。至少有一條来自相關性較高頁面的内鏈,点击深度不要太深。完全没有内鏈的頁面,只能靠外部連結或站点地图碰运气。
- 直接訪問返回 200。用不带登入態、不带 Cookie 的方式打開一次,確認没有被 302 到登入頁、首頁或错誤頁。
- robots.txt 没有誤伤。新目錄、測試路径、临时規則很容易把整段路径一起屏蔽,改完規則最好用實际 URL 驗證一次。
- 需要的话放進 sitemap。站点地图不是收錄保證,但它能让新 URL 更快進入抓取队列,尤其是内鏈較少的頁面。
一個容易忽略的细节
如果同一内容存在多個入口,比如列表頁带排序參數、带跟踪參數,或者大小寫、尾斜杠寫法不统一,先在發布前把主版本定下来,把其他入口统一指向它。等到被拆成好几個 URL 再回来收拾,成本高得多。
二、抓到的是不是你想要的版本
- canonical 指向自己,或者明确指向真正的主版本,不要指向一個 404 或重定向地址。
- 狀態碼语义正确。内容已经下架的頁面不要繼續用 200 承载,避免搜尋引擎把它当成有效頁面反复抓取。
- 渲染方式確認過。如果正文依赖客戶端渲染,確認關键内容在渲染後可见,而不是留一個空壳给蜘蛛。
- 移動端和桌面端一致。同一 URL 在两端的正文差异過大时,索引里留下的那一份可能不是你想展示的。
三、内容层面值不值得進索引
抓取和收錄是两件不同的事。抓取是讀取頁面,是否保留在索引里則取决于搜尋引擎對頁面價值的判断。索引的存储和检索都有成本,所以取舍是常態。發布前可以從几個角度自查:
- 标题、H1 和首段是否在说同一件事,讀者能不能一句话概括這個頁面。
- 和站内既有頁面有没有大面积重复,參數頁、變体頁、聚合頁尤其常见。
- 正文是否有獨立信息量,而不是一個列表加两三句占位說明。
- 标题和摘要是否提供了区別于其他頁面的信息,避免整站同一套模板文案。
一條经驗:同一批新頁面里只有個別没被收錄,先看那一頁和其他頁的差异;如果整批都没動静,問题更可能出在目錄层級、robots 規則或站点地图层面。
四、上线之後別急着動手
發布後一两天内,頁面狀態顯示“已發現,尚未抓取”或“已抓取,尚未编入索引”都很常见,多數情况只是排队。這個阶段频繁改标题、改正文、反复提交,反而让狀態来回跳動,也不利于判断真正的問题在哪。
更稳妥的做法是留一個观察窗口:先看服務器日誌里有没有针對這個 URL 的抓取记錄,再看索引狀態有没有變化。如果确實有抓取但迟迟不進索引,再考虑是补内鏈、加内容,還是調整 canonical 或 robots 設定。
一份可执行的核對顺序
- 能否從站内連結到達,内鏈是否相關。
- 直接訪問是否返回 200,是否被 robots.txt 放行。
- canonical 與狀態碼是否指向正确的主版本。
- 标题、正文是否與站内其他頁面明顯区分。
- 發布後观察抓取记錄和索引狀態,再决定是否動手調整。
把這五步固定成發布流程的一部分,能让很多收錄問题在發生之前就被挡掉,剩下的才交给時間和搜尋引擎的判断。