网站收录

同一份内容挂在多个 URL 上:索引最后会留下哪一个

同一份内容被栏目路径、参数拼接、打印页或历史域名复制成多个 URL,是站点里很常见的状态。本文说明索引对同内容 URL 的归并逻辑、倾向保留哪一个、收敛时需要统一哪些信号,以及收敛后可以从抓取、索引和展示三个层面观察什么变化。

网站收录

同一份内容挂在多个 URL 上:索引最后会留下哪一个

同一批商品、同一篇说明,因为栏目归档、参数拼接、打印页、移动版或历史域名,被复制成好几个 URL,是站点里很常见的状态。这些页面各自都能打开,状态码也都是 200,但索引里通常不会把它们全部留下。理解索引怎么处理这类同内容 URL,比反复提交更有效。

索引先去重,再决定留谁

蜘蛛是按 URL 逐个抓取的,索引却是按内容做归并的。同一份主体内容出现在多个 URL 上时,搜索引擎会先判断它们是不是同一份,再从中挑一个作为展示用的 URL,其余的要么被合并,要么留在库里但不参与展示。

所以看到收录数明显少于 URL 数时,先别急着当成收录失败。有一部分 URL 从一开始就不适合独立占一个索引位。

常见的重复来源

  • 栏目路径不同、内容相同,比如 /a/123 和 /list/a/123
  • 排序、分页、来源追踪参数拼接出的副本
  • 打印页、移动版、AMP 等平行展示版本
  • 带和不带结尾斜杠、带和不带 index.html
  • 历史域名或测试域名仍然可以解析访问
  • 被采集或转载后形成的站外同文

索引倾向留下哪一个 URL

当多个 URL 内容相近,索引会更倾向于选择信号更集中的那一个。常见的影响因素有:

  1. 被内链指向更多、入口更靠近首页的那个
  2. 外部链接更多指向的那个
  3. canonical 指向一致、全站没有互相矛盾的那个
  4. URL 更简洁、参数更少的那个
  5. 抓取和加载都更稳定的那个

需要留意,这是倾向而不是规则。同一批页面在不同时间点被选中的 URL 有可能变化,尤其在 canonical 与内部链接指向不一致的时候。

与其猜测索引最终会挑哪个 URL,不如让全站信号都指向同一个 URL,把这道选择题变简单。

收敛思路:先定主 URL,再统一信号

收敛的核心是选定一个主 URL,然后让所有相关信号都指向它:

  • 内部链接一律指向主 URL,不在列表页、面包屑里混用变体
  • canonical 指向主 URL,且主 URL 自身自指
  • sitemap 里只放主 URL
  • 对确实不需要独立存在的变体,用 301 或在入口层面直接去掉
  • 能靠参数生成的副本,尽量在链接生成阶段就不产生

这里最容易出问题的是半收敛:canonical 已经指向主 URL,但列表页和面包屑还链向变体,两套信号互相矛盾,索引只能自己再判断一次。

收敛之后看什么

观察点可以分成三层:

  1. 变体 URL 是否还在被频繁抓取。如果抓取量没降,通常说明入口还没清理干净。
  2. 主 URL 是否稳定出现在索引里,并且对应到正确页面。
  3. 搜索结果中展示的 URL 是否稳定,避免在几个变体之间来回跳。

这个过程往往需要几轮抓取周期,不必每天反复调整 canonical 或重复提交。频繁改动信号,反而会让判断更难收敛。

站外同文能做的有限

站外转载造成的同文,站内可操作的空间不大。能做的还是那几件事:让主 URL 的内外链信号更集中,保证首发时间可查,内容本身带有不易搬运的部分。指望靠一个标签就让别人的转载页面消失,并不现实。

同内容多 URL 的收录问题,本质不是让搜索引擎收下更多页面,而是把重复的部分合并掉,让真正需要被搜到的那个 URL 拿到更干净的信号。先理清哪些 URL 本该只有一个,再谈收录数量。