做收錄检查时经常遇到一種情况:自己觉得内容没問题,但索引里的表現不理想,或者系統里冒出好几個地址指向几乎一样的頁面。這时候很多人的第一反應是“内容重复了,删一批”。但重复内容並不是單一問题,来源不同,處理方式差別很大。判断错了類型,要么白删頁面,要么把真正的隐患留在那里。
一、先分清重复的三種来源
1. 模板重复
同一個模板批量生成的頁面,正文之外的部分天然高度一致:面包屑、相關推荐、侧邊栏、頁脚導航。這些属于正常结构,不用管。真正要警惕的是正文主体本身也大半相同,比如商品只有名稱和價格不同、房源只有地址不同、文章只有标题不同。
判断方法很直接:挑同一模板下的两個頁面,把正文抽出来比對,如果去掉變量字段之後剩下的重合度超過大半,就属于模板重复。這類頁面提供的新信息有限,容易在抓取和归並环节被降低優先級。
2. 參數重复
同一個内容被多個 URL 指向,最常见的原因是參數。用戶看到的是同一個頁面,搜尋引擎看到的是一批地址。參數可以再分几類看待:
- 追踪參數:来源标记、广告标识之類,一般應统一收敛到規范地址,不單獨放行。
- 排序參數:内容集合相同、只是顺序不同,通常保留一個預設排序版本就够。
- 篩選參數:组合數可控、确實有獨立搜尋需求的可以保留一部分;组合爆炸且每组结果内容稀薄的,建议收敛。
關键不是“有參數就砍”,而是看這個參數地址有没有獨立價值,以及它會不會稀释掉真正重要頁面的抓取机會。
3. 轉载與搬运
内容整体来自別處,或同一篇稿子在站内多個栏目重复發布。這類問题出在内容层面,光靠改 URL 解决不了。需要做的是确定哪個地址是主版本,其余地址要么指向它,要么补充足够差异化的内容(不同角度、不同資料、不同适用场景),而不是只改個标题。
二、動手前先做三件事
- 抽样對比正文:不要凭感觉,抽十几個頁面把正文主体拉出来比對,確認重复到底發生在模板层還是内容层。
- 看有没有稳定入口:内鏈、導航、列表頁是否只指向其中一個地址。如果多個地址都有稳定入口,光寫規范标簽效果會打折扣。
- 检查規范地址與實际地址是否一致:协议、域名、结尾斜杠、大小寫、參數顺序,任何一處不一致都可能让合並信号失效。
三、處理顺序:先收敛地址,再處理内容
顺序很重要。如果地址本身還没理清,就先去删改内容,往往是白做工。比較稳妥的做法是:
- 先把參數派生、大小寫、协议差异這一類“同一内容多個地址”收敛成一條主地址;
- 再看模板重复的頁面,判断是补充差异化信息,還是限制其進入抓取重点;
- 最後處理轉载類内容,明确主版本,其余做指向或内容层面的区分。
四、几個常见誤区
- 见到相似就删:有些頁面虽然相似,但有獨立搜尋需求,删了等于丢掉入口。
- 只寫規范标簽不改内鏈:内外信号冲突时,合並效果容易被削弱。
- 把重复当成唯一原因:收錄表現不好也可能與抓取額度、入口深度、渲染情况有關,重复只是其中一個變量。
重复内容治理的目标不是把頁面數量压到最低,而是让每個保留下来的地址都有清晰、獨立的定位,让抓取资源集中到真正有價值的頁面上。
最後提醒一点:處理重复是一個需要观察的過程,改完之後建议按目錄或模板分批跟踪一段時間,看抓取分布和索引狀態是否朝预期方向變化,而不是改完当天就下结论。