網站收錄

已發現但未抓取:這個收錄狀態该等還是该處理

在索引覆盖率或日誌中看到“已發現但未抓取”,常让人纠结。它和“已抓取但未索引”不是一回事。本文說明這個狀態代表什么、哪些情况可以繼續观察、哪些情况需要检查内鏈、提交入口和服務器响應,並给出一個可执行的排查顺序。

網站收錄

已發現但未抓取:這個收錄狀態该等還是该處理

在索引覆盖率报告或日誌里,经常會看到一類 URL 的狀態是“已發現但未抓取”。它看起来像收錄的前一步,但又迟迟不動。很多人第一反應是繼續提交、加外鏈或者改 sitemap,其實先分清這個狀態的含义,再决定等還是查,效率會高很多。

“已發現但未抓取”在说什么

這個狀態表示搜尋引擎已经知道這個 URL 存在,可能来自内鏈、sitemap、外鏈或提交入口,但還没有把它放進抓取队列並完成抓取。注意,它连抓取都還没發生,所以更谈不上進入索引。

它和“已抓取但未索引”是两件事。前者是抓取調度的問题,後者是抓取完成後,索引系統判断頁面是否值得進入索引的問题。把两者混在一起,排查方向很容易跑偏。

常见触發场景

  • 新頁面刚上线,内鏈入口少,站点對搜尋引擎的抓取吸引力還不高。
  • 頁面层級太深,從首頁到该頁需要经過多次跳轉,蜘蛛没有優先走到這里。
  • 一次新增大量 URL,例如篩選頁、分頁或參數頁,抓取预算被分散。
  • 服務器响應偏慢或不稳定,抓取队列會優先選擇更顺畅的地址。
  • sitemap 里提交了 URL,但頁面本身没有可被正常訪問的内鏈入口。

這些情况不一定都是問题。新站、新栏目、新頁面在一段時間内停留在這個狀態,属于常见現象。

什么情况可以先观察

如果只是少量新 URL,頁面内容完整、可正常訪問,且站内其他頁面的抓取和收錄节奏正常,那么可以先观察一段時間。此时反复提交同一批 URL、频繁修改 sitemap,反而可能让抓取信号變得混乱。

观察时不要只看一個頁面的狀態。更合理的做法是看同批 URL 的整体變化:是只有個別頁面卡住,還是整批都没動;是只有深层頁面没動,還是首頁附近的新頁面也没動。整批停滞和單頁停滞,處理優先級不同。

什么情况需要處理

如果重要頁面長時間停在“已發現但未抓取”,而站点整体抓取正常,就需要检查入口和調度條件。優先看這几項:

  1. 頁面是否值得被抓取。如果它只是參數组合、空列表或與已有頁面高度重复,先决定要不要收錄,比推它進抓取更重要。
  2. 站内有没有稳定入口。從相關栏目頁、詳情頁或聚合頁给出正常連結,让蜘蛛能自然走到,而不是只靠 sitemap 提交。
  3. 服務器是否稳定。抽查该 URL 的响應狀態、响應時間和是否有拦截規則,避免抓取工具訪問时得到異常结果。
  4. 是否一次性放出太多低價值 URL。如果是,先收敛地址,再考虑推進重点頁面。
不要為了推動一個 URL 的抓取,批量制造外鏈或反复提交。搜尋引擎對頁面的判断,最终還是會回到内容、结构和可訪問性上。

和 URL 規范一起看

“已發現但未抓取”有时不是抓取慢,而是同一批内容有太多地址。大小寫、尾斜杠、參數和排序组合,會让同一個頁面變成多個 URL,抓取队列里塞满近似地址,真正重要的頁面反而被延後。遇到這種情况,先做 URL 收敛,再看抓取狀態,通常更顺。

一個简單的判断顺序

  • 先確認頁面是否需要被收錄,低價值或重复頁面可以直接排除。
  • 再看站内入口是否自然、稳定,层級是否過深。
  • 检查服務器响應、狀態碼和是否有異常拦截。
  • 核對 sitemap 與提交入口,不要反复提交同一批地址。
  • 最後才是等待和观察,並和同批 URL 的變化一起對比。

總结一下,“已發現但未抓取”更接近抓取調度阶段的狀態,不等于頁面有問题,也不等于一定會進索引。少量、正常的新頁面可以观察;重要頁面長期不動,或者整批 URL 都卡住,就從 URL 規范、内鏈入口、服務器响應和抓取预算几個方向依次排查。把等待和處理分開,比盲目推進更省力。