搜
蜘蛛不带 Cookie:会话、登录墙与它实际看到的页面版本
搜索蜘蛛访问页面时通常不携带 Cookie,也不维持登录会话。这意味着需要登录才能看到的内容、依赖会话判断的地区版本,对蜘蛛来说可能是另一幅样子。本文说明会话参数、登录墙和个性化页面会怎样影响抓取,并给出几条自查与调整思路。
阅读全文 →共找到 1 篇与“爬虫会话”相关的文章。
搜索蜘蛛访问页面时通常不携带 Cookie,也不维持登录会话。这意味着需要登录才能看到的内容、依赖会话判断的地区版本,对蜘蛛来说可能是另一幅样子。本文说明会话参数、登录墙和个性化页面会怎样影响抓取,并给出几条自查与调整思路。
阅读全文 →