提交成功不等于会被抓取
在后台看到 sitemap 状态是「成功」,只说明搜索引擎读取了这个文件,并不代表里面每个 URL 都会进入抓取队列。提交动作解决的是「告诉对方这里有东西」,抓取与否还要看站点整体情况、抓取预算、URL 本身的质量,以及入口页是否还在被访问。把这两件事混在一起,很容易在错误的方向上反复折腾。
第一层:sitemap 文件本身是否合格
- 文件是否能直接访问,返回 200,而不是跳转、需要登录或被 CDN 拦截;
- 编码与格式是否正确,标签闭合、时间格式规范,压缩文件没有损坏;
- 单文件 URL 数量是否超出建议上限,超出后应拆分并用索引文件串联;
- lastmod 是否被批量改成当前时间,长期乱写会让这个字段失去参考价值;
- robots.txt 是否误屏蔽了 sitemap 路径,或屏蔽了里面大量 URL。
这几项都很基础,但实际排查中占比不低。尤其是全站 lastmod 同一天更新,会让抓取端难以判断哪些是新内容、哪些只是被重新写了一遍。
第二层:抓取预算被谁占用了
一个站点每天能被抓取的次数大致有上限。如果大量抓取被消耗在下面这些地址上,sitemap 里的新 URL 自然排不上队:
- 带各种筛选、排序、跟踪参数的页面,同一份内容生成出无数 URL;
- 返回 404、410 或软 404 的旧地址;
- 需要多次跳转才能到达目标的链式重定向;
- 内容几乎相同的列表页、标签页、分页尾部。
可以在日志里统计抓取请求的分布,看抓取量集中在哪些路径上。通常不是「蜘蛛不来」,而是来了之后在原地打转。抓取量高但集中在低价值地址上,比抓取量低更值得警惕。
第三层:URL 自身是否具备被抓的理由
即使地址被提交,抓取端也会做一轮预判:这个 URL 是否和已有内容重复,是否有实际内容,是否只是一个跳转壳。如果 sitemap 里塞进了大量空页面、聚合页、无内容页,抓取率低是正常结果。与其不断增加提交数量,不如先保证提交进去的每一个地址都能打开、有内容、能独立成页。
第四层:入口页和内链是否还在正常工作
sitemap 是辅助手段,真实的内链路径仍然是发现 URL 的主要方式。需要检查入口页是否还在被访问、链接是否可点、是否被 nofollow 或脚本阻断。如果入口页本身已经不再被抓取,那么挂在它下面的目标 URL 也会跟着失去被发现的机会。
做蜘蛛池或入口页维护时,同样要注意定期检查可达性,而不是只堆数量。入口页数量翻倍、质量却下降,往往会导致整体抓取效率变差。
建议的排查顺序
- 先确认 sitemap 可访问、格式正确、没有批量错误的时间戳;
- 在日志里看抓取总量与分布,找出被浪费的地址;
- 清理参数页、软 404、无内容页,减少无效抓取;
- 检查入口页与内链是否可达,链接是否真实存在;
- 确认新 URL 确实有独立内容,再考虑重新提交或调整提交方式。
抓取量上升不等于收录量上升,两者之间还隔着内容质量与去重判断。任何提交方式和工具都只能帮助发现 URL,不能代替页面本身的价值。
多数「提交了却不抓」的情况,原因集中在抓取预算被浪费和 URL 质量不足这两点上。先把这两处处理好,再谈提交频率和入口页数量,结果会稳定一些。