入口頁一多,同一個地址很容易以好几種寫法同时存在:带 www 和不带 www、结尾有没有斜杠、參數顺序不一样、中文關鍵詞有没有做编碼。對搜尋引擎来说,這些寫法有可能被当成不同地址,抓取次數被拆散,日誌里也會冒出一堆看着眼熟、其實没價值的路径。規范化要解决的就是一件事:让蜘蛛每次看到的都是同一個地址。
重复變体通常從哪来
- 拼接規則不统一:不同模板、不同時間寫出来的連結,大小寫和斜杠各寫各的。
- 跳轉留下的中間地址:站点改過連結结构,做過 301,但内部連結還在用舊地址。
- 外部来源寫法随意:外鏈、目錄、合作方给的地址常带追踪參數或多余层級。
大小寫與尾斜杠:最容易忽略的两類
大小寫
多數服務器對路径大小寫是敏感的,/Page 和 /page 完全可以是两個地址;域名部分通常不敏感,但寫法混乱會让後面的日誌統計很难做。自己生成入口頁地址时统一成小寫,是比較省事的做法。
尾斜杠
带斜杠和不带斜杠,取决于服務器怎么處理:有的會自動 301 收拢,有的当成两條路径各返回一次正常頁面。後者最麻烦,两個地址内容一样,抓取被分走。建议全站只保留一種寫法——目錄型地址带斜杠、文件型不带,或者干脆全部不带——另一種靠 301 收拢過去。
參數與编碼
追踪參數是抓取浪費的重灾区。入口頁連結里如果混進 utm、ref、from 這類參數,等于凭空多出一批地址,而它們指向的内容完全相同。可行的做法是站内連結一律不带追踪參數,追踪只放在統計脚本或落地跳轉里。
编碼同样要注意。中文、空格、特殊符号存在多種百分号寫法,同一個關鍵詞可能對應若干條路径。選定一種编碼方式,在生成連結的环节就固定下来,不要靠後期再改。
收拢手段怎么選
- 301:變体確認不再需要时直接用,把信号集中到一個地址上,指向明确。
- canonical:變体必须保留(比如分享連結、带參數的落地地址)时,用規范标簽指向主地址。
- 内鏈统一:池子内部連結、sitemap、導航全部只寫主地址。源头不改,收拢永遠做不完。
規范化是减负,不是加量。少一種變体,等于把有限的抓取留给真正需要被看到的頁面。
落地检查清單
- 導出一份入口頁 URL 列表,按大小寫、尾斜杠做一次去重,看有多少是重复的。
- 检查站内連結、sitemap、canonical 三處寫法是否一致,不一致的先改一處做對照。
- 给參數定一個白名單:哪些參數允许出現在地址里,其余在生成环节就删掉。
- 抽查目标頁,看搜尋引擎返回的規范地址是哪一個,和预期是否一致。
- 把規范化的規則寫進模板和發布流程,避免新頁面繼續产生新變体。
規范化不會直接带来收錄或排名,它做的是把已经浪費掉的抓取收回来。入口頁規模越大,這件事的收益越明顯;規模小时可以先從模板层面统一寫法,不必急着大規模改老連結。