把 sitemap 提交给搜索蜘蛛,只是告诉它“这些地址可能存在”,并不等于这些地址会被抓取,更不等于会被收录。很多站点在提交后看到没有变化,容易以为是提交无效,其实更常见的是入口、页面状态或索引状态某一环没有对齐。
先区分“发现”和“收录”
URL 被发现,意味着搜索蜘蛛从 sitemap、站内链接或外部链接知道了这个地址;抓取是它来取回内容;收录则是内容经过处理后进入索引。三个环节分开看,排查时就不会把“没反应”都归到 sitemap 头上。
核对 sitemap 本身是否可用
- 地址是否可访问:直接打开 sitemap 文件,确认返回的是 XML,而不是登录页、404 或跳转后的首页。
- 内容是否被 robots.txt 拦住:若 sitemap 文件本身被 Disallow,搜索蜘蛛可能无法读取。
- 格式是否有效:检查 XML 标签闭合、URL 编码、日期格式,避免整份文件解析失败。
- 是否包含不该出现的地址:已删除、301 跳转、参数重复页最好从 sitemap 中清理,减少无效线索。
- 是否只提交了首页:只放首页或少数几个栏目页,站点的大部分 URL 仍然只能靠内链被发现。
再看页面返回与可抓取状态
sitemap 正常,不代表里面的每个 URL 都适合抓取。逐个抽查被提交的地址,重点看返回状态和内容呈现:
- 返回码是否为 200,是否频繁跳转或需要登录;
- 页面正文是否在初始 HTML 中可见,还是完全依赖客户端渲染;
- 页面是否被 robots meta、X-Robots-Tag 或 canonical 指向别处;
- 移动端与桌面端返回的内容是否一致,避免出现两套差异很大的版本。
这些因素不直接决定“是否收录”,但会影响搜索蜘蛛对页面价值的判断和后续处理。如果页面本身只是空壳、聚合无内容或重复模板,即使被抓取,也可能长期停在已抓取未编入索引的状态。
站内入口比 sitemap 更能决定持续抓取
sitemap 适合批量提交地址,但搜索蜘蛛日常发现新内容,更多依赖站内链接路径。一个 URL 如果只存在于 sitemap,却没有任何内链指向,长期来看被抓取的机会会弱很多。核对时可以从首页或栏目页出发,尝试点击几次能否到达目标页,观察链接深度和入口数量。
内链和外链的不同作用
内链帮助搜索蜘蛛理解站点结构和页面关系,外链则提供外部发现线索。新页面如果既没有内链入口,也没有外链引用,仅靠 sitemap 提交,通常需要更长时间才会被安排抓取。把新内容放回栏目列表、相关推荐和上一篇下一篇中,是更稳妥的发现方式。
回到索引状态:已抓取不等于已收录
在站点日志或搜索平台后台看到抓取记录后,还要继续核对索引状态。已抓取但未编入索引,常见原因包括内容与站内其他页面高度相似、页面主要区域没有有效信息、站点整体质量暂时不足等。这时继续提交 sitemap 或反复请求抓取,作用有限,不如先处理页面本身的重复和空薄问题。
sitemap 是发现入口,不是收录开关。提交后没动静时,按“sitemap 可用性 → 页面可抓取状态 → 站内入口 → 索引状态”的顺序核对,比重复提交更有用。