Python爬虫之request模块

python

爬虫——requests模块

Requests继承了urllib.request的所有特性,Requests支持HTTP连接保持和连接池,支持使用cookie保持会话,支持文件上传,支持自动确定响应内容的编码,支持国际化的URL和POST数据自动编码。

相较于urllib.request而言,其使用更加简洁方便。

基本GET请求(headers参数和parmas参数)

1.最基本的GET请求可以直接用get方法

#!/usr/bin/python3

# -*- coding:utf-8 -*-

import requests

 

response = requests.get("http://www.baidu.com/")

# 也可以这么写

# response = requests.request("get", "http://www.baidu.com/")

2.添加headers和查询参数

如果想添加headers,可以传入headers参数来增加请求头中的headers信息。如果要将参数放在url中传递,可以利用params参数。

#!/usr/bin/python3

# -*- coding:utf-8 -*-

 

import requests

 

url = "http://www.baidu.com/s?"

 

kw = {"wd":"爬虫"}

 

# User-Agent头

header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36'}

 

# params接收一个字典或者字符串的查询参数,字典类型自动转换为url编码,不需要urlencode()

response = requests.get(url = url, params = kw, headers = header)

 

# 打印响应内容,response.text返回的是Unicode格式的数据

print(response.text)

# 打印响应内容,response.content返回的是字节流数据

# print(response.content)

 

# 查看完整的url地址

print(response.url)

 

# 查看响应头部字符编码

print(response.encoding)

 

# 查看响应码

print(response.status_code)

使用response.text时,requests会基于HTTP响应的文本编码自动解码响应内容,大多数Unicode字符集都能被无缝地解码。

使用response.content时,返回的是服务器响应数据的原始二进制字节流,可以用来保存图片等二进制文件。

基本POST讨还(data参数)

1.最基本的GET请求可以直接用post方法

#!/usr/bin/python3

# -*- coding:utf-8 -*-

 

import requests

 

response = requests.post("http://www.baidu.com/")

# 也可以这么写

# response = requests.request("post", "http://www.baidu.com/")

相关推荐:《Python相关教程》

2.传入data数据

对于POST请求来说,我们一般需要为它增加一些参数。那么最基本的传参方法可以利用data这个参数。

#!/usr/bin/python3

# -*- coding:utf-8 -*-

 

import requests

 

url = "http://fanyi.youdao.com/translate?smartresult=dict&smartresult=rule&smartresult=ugc&sessionFrom=null"

 

header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36'}

 

word = input("请输入需要翻译的词条:")

 

from_data = {

    "i":word,

    "from":"AUTO",

    "to":"AUTO",

    "smartresult":"dict",

    "doctype":"json",

    "version":"2.1",

    "keyfrom":"fanyi.wed"

}

 

response = requests.post(url = url, data = from_data, headers = header)

 

# print(response.text)

print(response.json())

代理(proxies参数)

如果需要使用代理,你可以通过为任意请求方法提供proxies参数来配置单个请求:

#!/usr/bin/python3

# -*- coding:utf-8 -*-

__author__ = 'mayi'

 

import requests

 

# 根据协议类型,选择不同的代理

proxies = {

    "http": "http://12.34.56.78:90",

    "https": "http://21.43.65.87:90"

}

 

response = requests.get("http://www.baidu.com/", proxies = proxies)

 

print(response.text)

Cookies和Sission

1.Cookies

如果一个响应中包含了cookie,那么我们可以利用cookies参数拿到:

#!/usr/bin/python3

# -*- coding:utf-8 -*-

__author__ = 'mayi'

 

import requests

 

response = requests.get("http://www.baidu.com/")

 

cookiejar = response.cookies

 

cookiedict = requests.utils.dict_from_cookiejar(cookiejar)

 

print(cookiejar)

 

print(cookiedict)

2.Sission

在requests里,session对象是一个非常常用的对象,这个对象代表一次用户会话:从客户端连接服务器开始,到客户端浏览器与服务器断开。

会话能让我们在跨请求时候保持某些参数,比如在同一个Session实例发出的所有请求之间保持cookie。

实现人人网登录

#!/usr/bin/python3

# -*- coding:utf-8 -*-

__author__ = 'mayi'

 

import requests

 

# 创建session对象,用于保存Cookie值

session = requests.session()

 

# User-Agent头

header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36'}

 

# 需要登录的账户和密码

email = input("请输入您的账户:")

password = input("请输入您的密码:")

data = {"email": email, "password": password}

 

# 发送附带账户密码的请求,并获取登录后的Cookie值,保存在session中

session.post("http://www.renren.com/PLogin.do", data = data)

 

# session中包含了登录后的Cookie值,可以直接访问那些需登录后才能访问的页面

response = session.get("http://www.renren.com/413928886/profile")

 

# 打印响应内容

print(response.text)

以上是 Python爬虫之request模块 的全部内容, 来源链接: utcz.com/z/521102.html

回到顶部