爬虫遇到网关登录确认怎么办?

这个“网关”(不太清楚是不是这么叫的)是公司提供的wifi网络,需要输入账号密码登录。过一段时间就会跳出提醒,只要点击登录按钮就可以了。
爬虫上网的时候,会时常跳出一个登录确认界面。有可以用的账号,请教如何使用Python通过这一环节?
http://js.iwififree.com/
爬虫遇到网关登录确认怎么办?


回答:

同楼上,可以用Chrome开发者工具或者Burpsuite这样的工具抓取登录成功的一个数据包,然后在每次发起请求的时候携带一个cookie参数,将登录状态的cookie一起提交上去
比如可以放到header中

 headers = {

'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.128 Safari/537.36',

'Cookie':'替换cookie'

}

这样服务器就会判断你已经登录成功了


回答:

这种一般见于使用wifi的环境,有些有要求验证用户身份,如果你采用有线网络使用,应该不会出现这样的问题。

而且常见应该是一次登录后就不再登录啊,因为身份已经验证过?!

验证方法一般可以获取到本地存储的认证信息,在请求中带上即可。

已参与了 SegmentFault 思否社区 10 周年「问答」打卡 ,欢迎正在阅读的你也加入。

以上是 爬虫遇到网关登录确认怎么办? 的全部内容, 来源链接: utcz.com/p/938454.html

回到顶部