蜘
蜘蛛池入口页的并发请求:同一时刻来多少只蜘蛛算正常
很多人只统计蜘蛛一天来了多少次,却忽略了同一时刻的并发数量。并发过高会让入口页返回超时或 5xx,蜘蛛拿不到内容;并发过低又说明入口页没有被有效发现。本文讲清影响并发的几个变量、如何从日志判断峰值是否偏高,以及可以落地的调节手段。
阅读全文 →共找到 1 篇与“并发请求”相关的文章。
很多人只统计蜘蛛一天来了多少次,却忽略了同一时刻的并发数量。并发过高会让入口页返回超时或 5xx,蜘蛛拿不到内容;并发过低又说明入口页没有被有效发现。本文讲清影响并发的几个变量、如何从日志判断峰值是否偏高,以及可以落地的调节手段。
阅读全文 →