Requests库入门

• http://www.python-requests.org/en/master/
• requests

Requests库的7个主要方法

Requests库的get()方法

requests.get(url,params=None,**kwargs)

1. url：拟获取页面的url链接
2. params：url中的额外参数，字典或字节流格式，可选
3. **kwargs：12个控制访问的参数

r = requests.get(url)

• r为一个包含服务器资源的Response对象(即为requests.get()返回内容)
• get()方法和url构造了一个向服务器请求资源的Request对象

Response对象

Response对象包含服务器反回的所有信息，也包含请求的Request信息

Response对象的属性

1. r.encoding:如果charset不存在，则默认编码为ISO-8859-1，r.text根据r.encoding显示网页内容
2. r.apparent_encoding：根据网页内容分析出的编码方式

理解Response异常 r.raise_for_status()如果不是200，产生异常requests.HTTPError异常

1
2

r.raise_for_status()在方法内部判断r.statu_code是否等于200，不需要增加额外的if语句，该语句便于try-except进行异常处理

Requests库的异常

python爬取网页代码通用框架

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

import requests
#import time

def getHTMLText(url):
    try:
        r = requests.get(url,timeout = 30)
        r.raise_for_status()#如果状态不是200，产生HTTPError异常
        #print(r.status_code)
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "产生异常"

if __name__ == '__main__':
    url = "http://www.baidu.com"
    print(getHTMLText(url))

Requests库的request()方法

1
2

requests.request(method, url, **kwargs)

• method: 请求方式，对应get/put/delete等7种
• url:拟获取页面的url链接
• **kwargs: 控制访问的参数

kwargs:控制访问参数，（可选）

1
2
3
4
5
6
7
8
9
10
11
12
13
14

params：字典或字节序列，作为参数增加到URL中
data：字典、字节序列或文章对象，作为Request的内容
json：Json格式的数据
headers：HTTP定制头
cookies：字典或CookieJar，Request中的cookie
auth：元组，支持HTTP认证功能
file：字典类型，传输文件
timeout：设置超时时间，单位为秒
proxies：字典类型，设定访问代理服务器，可以增加登录认证
allow_redirects：True/False，默认为True，重定向开关
strem：True/False，默认为True，获取页面立即下载开关
verify：True/False，默认为True,认证SSl证书开关
cert：本地SSL证书