不少站点在移动端和 PC 端各用一套 URL,平时看着没什么问题,等到核对收录时才发现:同一个页面在索引里挂着两个地址;或者 PC 版进去了、移动版迟迟不出现,也可能反过来。这类情况大多不是爬虫在“挑刺”,而是站点自己给出的信号前后不一致。
先分清三种常见的双 URL 形态
同样叫“两套 URL”,实现方式不同,后面要处理的地方也不同。
- 独立域名或子域:例如 m.example.com 与 www.example.com,两套页面基本对应,靠跳转或适配标记关联。
- 同域名不同路径或参数:例如 /m/ 前缀,或者 ?mobile=1 这类参数,地址变了但模板共用。
- 响应式一套 URL:只有一套地址,靠样式适配屏幕,本身不存在归属选择的问题。
只有前两种才需要讨论归属,第三种主要是确认渲染是否完整,不在本文范围内。
归属混乱时常见的几类现象
- 同一篇内容在索引里出现两个结果,标题或摘要略有差异。
- 只在手机上访问过的地址被收录,PC 版反而没有出现。
- 移动版被当作重复内容,代表页被替换成移动版地址。
- 站点地图里提交的是 PC 版,但抓取记录中大部分是移动版。
这些现象算不上“故障”,而是站点同时给了两套等价的信号,索引只能挑一个作为代表。单纯抱怨收录慢,通常解决不了问题。
理清归属的核对顺序
- 先定主版本口径。内部先明确是以 PC 版为主、移动版为辅,还是反过来。定下来之后,所有信号都要跟这个口径对齐。
- 看跳转关系。如果两套地址都能独立访问,从辅版本到主版本是否存在稳定、可被跟随的跳转,用的是服务端跳转还是前端脚本跳转。
- 看 canonical。辅版本页面的 canonical 是否指向主版本,主版本是否指向自己。两边各指一个目标,等于自我矛盾。
- 看站点地图。sitemap 里放的是主版本,还是两套都放。两套都提交,往往会让“哪套是主”更模糊。
- 看内链。站内链接指向哪一套。如果主版本页面里的链接大量指向辅版本,主版本的入口信号会被稀释。
- 最后看抓取与收录记录。确认爬虫抓的是哪一套、索引里的代表页是哪一套,再把结论和前面几条对照,找出对不上的地方。
几个容易被忽略的细节
- 参数式移动地址如果被外部链接传播,会比主版本更像一个独立页面。
- 移动版为了速度裁掉了大段正文,两套内容差异过大,容易按两个页面处理。
- 跳转链条太长,例如移动版先跳中间页再跳主版本,抓取和判断都多了一层不确定。
- 改版时只调了跳转,canonical 和 sitemap 没同步,遗留信号会持续一段时间。
归属问题说到底就是:你要让搜索引擎把哪个地址当成这个页面的代表。站点给出的信号越一致,这个过程越省事。
调整之后怎么观察
改完不要马上要结果。跳转、canonical、sitemap 的调整需要等重新抓取之后才可能体现,观察周期通常按周来算。核对时把三件事分开看:爬虫是否开始抓主版本、主版本是否进入索引、索引代表页是否切过来。三者节奏不一致是正常现象,混在一起看很容易误判。
如果调整后一两周里抓取记录仍以辅版本为主,先回头查内链和外部链接,而不是继续追加提交动作。信号来源没变,重复提交只是在做无用功。