网站收录

多语言与多地区站点:收录口径与重复内容的处理顺序

多语言、多地区站点常见的问题不是蜘蛛不来,而是版本口径没分清:收录数按整站统计、hreflang 当成收录开关、canonical 指向默认语言。本文拆解语言版本与地区版本的区别,给出重复内容的来源判断和处理顺序,帮助运营者按版本建立可对比的收录观察口径。

网站收录

多语言与多地区站点:收录口径与重复内容的处理顺序

站点做了多语言之后,常见的情况是:英文版收录得七七八八,日文版一个都没有;或者几个语言版本在索引里互相替代,搜品牌词出来的是你没打算主推的那个版本。这类问题很多时候不是“蜘蛛不来”,而是版本口径没分清、重复内容没有收口。

先分清语言版本和地区版本

这两件事经常被混在一起说,但处理逻辑不一样。

  • 语言版本:同一站点面向不同语言用户,例如 /en/、/ja/、/de/。正文内容本身不同,重复度通常可控。
  • 地区版本:同一语言面向不同市场,例如 /us/、/uk/、/au/。正文可能高度重合,差异集中在货币、库存、配送、价格上。

地区版本更容易出问题,因为它的内容相似度天然就高。如果只是换了货币符号,其余正文一模一样,搜索引擎没有理由保留多个版本。

收录口径要按版本拆开看

用整站收录数判断多语言站点,几乎一定会误判。英文目录涨了两千条,会把日文目录一条没收录的事实盖住。

更有效的做法是按目录或子域分别统计:每个版本有多少可收录 URL、被抓取了多少、进入了索引多少、索引里有多少是备用页面。这几个数字放在一起对比,问题往往一眼能看出来——是没被发现,还是发现了没抓,还是抓了没留。

hreflang 不负责收录,只负责指向

hreflang 的作用是告诉搜索引擎:这几个页面是同一内容的不同语言或地区版本,它们是同一组,而不是互相竞争的关系。它不能把页面“推进索引”,也不能替代 canonical。

缺了 hreflang 的直接后果,通常是搜索引擎自己挑一个版本保留,或者几个版本在索引里来回替换。挑错版本的时候,用户看到的是不合适的语言或地区。

配置上有三点容易漏:一是必须自指,也就是页面要指向自己;二是必须双向,A 指向 B,B 也要指向 A;三是语言代码用规范写法,别用自造的地区缩写。

重复内容通常来自这几种情况

  1. 机翻或半自动翻译,正文几乎一致,只有导航和页脚不同。
  2. 模板相同,正文只有一两句差异,其余全靠模块拼。
  3. 筛选参数、排序参数、会话参数在每个语言版本下又复制了一份。
  4. 默认语言版本被多个路径指向,例如根目录和 /en/ 同时可访问同一内容。

处理顺序

顺序比技巧重要,先做错的一步会让后面白做。

  1. 确认每个版本是否有独立内容价值。如果只是机翻且无人维护,考虑合并到主版本,或用 noindex 明确排除,而不是硬留着。
  2. 让每个版本 canonical 自指。最常见的事故是子语言页面的 canonical 指向了默认语言,等于自己声明“请收录另一个页面”。
  3. 配齐 hreflang 集群。包含自指、双向指向和 x-default,且只指向可索引的 URL,不要指向跳转页或带参数的地址。
  4. 检查语言切换链接是否可被爬取。很多站点用 JS 事件切换语言,蜘蛛顺着链接走不到其他版本,这是多语言收录卡住的高频原因。改成常规的 a href 指向对应 URL。
  5. 分版本维护 sitemap。每个语言或地区目录一份,便于分别观察提交与收录的变化。
  6. 分版本观察,而不是看总数。给每个版本单独建一个观察口径,判断周期也各自独立。

一份可执行的自查清单

  • 语言切换是真实的链接,还是只在点击时执行脚本?
  • hreflang 是否自指、是否双向、语言代码是否规范?
  • canonical 是否指向自身,而不是默认语言版本?
  • 默认语言是否被参数或 cookie 重定向挡住,蜘蛛拿不到?
  • 地区版本之间的差异是否只是货币符号?
  • 各版本的 sitemap 是否分开,收录数据是否分开统计?
多语言站点的收录问题,多数不是抓取能力问题,而是“你希望搜索引擎保留哪个版本”这件事没有想清楚。想清楚了,后面的 canonical、hreflang 和 sitemap 都只是执行动作。

落地时建议从体量最大的那个非默认语言开始试点,改完一个版本观察一段时间,确认口径和收录变化符合预期,再复制到其余版本。一次性全站改动,出问题时很难定位是哪一步引起的。