新站上线一段时间后,打开索引报告,常会看到首页、分类页、标签页、归档页已经被收录,真正希望被搜到的内容页却还停在“已发现”或“已抓取,未收录”。这个顺序看起来有点奇怪,但多数情况下并不意外。
抓取入口决定了先看到谁
搜索引擎发现 URL 的起点通常集中在外链、导航和 sitemap。外链指向的多是首页;全站导航也常把首页和栏目页放在最显眼的位置;sitemap 虽然可以列出所有内容页,但它提供的是发现通道,不是优先收录的指令。入口在哪里,爬虫就先往哪里走。
换句话讲,索引先出现首页和归档页,往往只是链接结构的自然结果,并不代表这些页面质量更好。
归档页和标签页为什么也快
这类页面由模板批量生成,链接密集,列表更新时间频繁,还常有站内互相链接。对爬虫来说,它们是通往大量内容页的路口,自然容易被反复访问。但被频繁抓取不等于值得被收录。如果归档页内容单薄、和内容页大量重复,长期留在索引里反而会稀释页面质量,也可能让用户点进去后找不到想要的内容。
内容页慢半拍,常见原因
- 入口位置深:只能从第二、第三层列表进入,或必须翻分页才能看到。
- 内链太少:正文里没有相关推荐、上下篇或同类聚合链接。
- 更新频率低:发布后长期不动,爬虫重访间隔被拉长。
- 与模板页差异小:标题、摘要和列表页高度相似,容易被当成重复内容处理。
- 被硬性设置挡住:noindex、robots.txt 或参数规则误拦,自查时先排除这类问题。
把抓取注意力引向内容页的几种做法
- 列表页保留到内容页的直接链接,不要只用 JS 点击加载。
- 正文中加入相关文章、同标签聚合和上下篇链接,让内容页彼此连通。
- sitemap 优先放内容页和更新频繁的聚合页,不要把每个筛选参数都写进去。
- 减少无意义的归档页、标签页,或给它们加上 noindex,把入口留给内容页。
- 更新已有内容页时同步更新 sitemap 的 lastmod,但不要伪造时间。
自查顺序
先看抓取日志里内容页是否被访问过。如果没被访问,问题在发现路径;如果被访问但没进索引,再去看页面质量、重复内容和 noindex 设置。这个顺序能把“没被发现”和“被发现但没收录”分开,避免一上来就改内容。
抓取是通道,收录和搜索表现还取决于页面本身能提供什么。
有人会尝试用蜘蛛池制造大量入口,让爬虫频繁来访。短期抓取量可能上升,但如果入口页面没有真实的链接关系,或者内容质量不变,索引结果通常不会跟着改善。把它当成辅助观察工具可以,当成收录的保证就会失望。
一个可操作的检查点
在导航、面包屑和列表页中,找一个普通用户能点到内容页的最短路径。如果这条路径超过三次点击,或者必须依赖搜索框、筛选和分页的组合,爬虫发现它的概率也会下降。先把这条路径缩短,再观察索引报告的变化,比反复提交 URL 更实际。