很多人把收录问题归因到内容质量和提交动作上,但蜘蛛第一次进入站点、第一次走到某个目录,几乎全是沿着链接走出来的。内链结构一旦乱掉,再好的页面也可能长期排在抓取队列的末尾,甚至始终没被访问过。
点击深度:从首页出发要走几步
常见的站点结构是首页、栏目页、列表页、详情页,一个内容页在三到四次点击内被走到,是比较舒服的距离。超过这个深度,通常意味着它只出现在分页靠后的位置、筛选结果里,或者需要用户操作才会渲染出来。
可以按这几个特征排查:
- 从首页到该页面的最短路径超过四次点击;
- 页面只在搜索框输入关键词后才能出现;
- 只在站内筛选、排序结果中可见;
- 只写在 sitemap 里,正文中没有任何链接指向它。
重要的栏目页和专题页,尽量在首页或全局导航留一个固定入口,让它们的深度稳定在两层以内。
锚文本:让链接自己说明目标页在讲什么
锚文本是给蜘蛛的上下文,也是给用户的预期。大量使用“点击这里”“了解更多”“详情”这类词,等于把链接的说明信息全部丢掉。更实用的做法是让锚文本包含目标页面的核心词,同时保持句子通顺。
不需要为一个词反复换同义表达去“做自然”,也不要把锚文本堆成关键词列表。围绕页面主题的一两个核心词、偶尔的自然变化,已经足够。
孤儿页面:没有入口的页面等于不存在
孤儿页面通常来自几种情况:下架栏目后残留的详情页、活动结束但没处理的专题页、后台批量生成却没有挂到任何列表的页面、只靠外部链接或二维码分享的页面。
sitemap 是 URL 发现入口的补充,不能替代站内链接。一个页面在 sitemap 里躺了半年,但站内没有任何入口,蜘蛛对它的抓取频率会明显偏低。
处理方式有两种:值得留的,从相关的已收录页面补一到两条内链;不值得留的,用 noindex 或直接下架,避免它一直占用抓取资源。
链接墙为什么反而拖慢抓取
导航和页脚堆几百个链接,看起来给了每个页面入口,实际效果往往相反。抓取预算被大量低价值链接摊薄,真正需要更新的页面反而要等更久。相关推荐、热门标签这类模块,控制在与当前页面主题相关的范围内,数量比齐全更重要。
上线前后可以照着做的几件事
- 新页面发布时,至少从一个已经被收录的页面加一条链接指向它,而不是只等它被自然发现。
- 检查栏目页是否在首页有固定入口,避免重要目录藏在二级导航的下拉里。
- 翻一下抓取统计,看看哪些目录长期没有蜘蛛访问记录,那里往往就是链路断掉的地方。
- 对孤立页面逐一判断:补内链,或者明确排除在索引之外。
- 列表页的分页保持可点击的链接,不要只依赖无限滚动和按钮加载。
内链解决的是“能不能被找到、多久被找到”,它不能替代页面本身的质量判断。抓取到了、走到面前了,收录与否仍然要回到内容是否值得留下这个问题上。两件事分开看,排查思路会清楚很多。