搜
栏目页抓得勤、详情页抓得少:抓取配比失衡的排查与调整
很多站点的抓取日志里,栏目页被反复访问,详情页却迟迟不更新。本文从入口数量、页面总量、参数重复和响应时间几个角度,说明抓取配比为什么会失衡,并给出可以逐步验证的调整顺序,帮助把抓取时间落到有独立内容的页面上。
阅读全文 →共找到 1 篇与“抓取配比”相关的文章。
很多站点的抓取日志里,栏目页被反复访问,详情页却迟迟不更新。本文从入口数量、页面总量、参数重复和响应时间几个角度,说明抓取配比为什么会失衡,并给出可以逐步验证的调整顺序,帮助把抓取时间落到有独立内容的页面上。
阅读全文 →