掌握高级HTTP请求技巧
学习如何设置请求头,模拟真实浏览器行为
处理JSON、XML等不同格式的响应数据
优雅处理各种网络异常和错误情况
小明是一名后端开发工程师,需要对接多个第三方API。通过自定义请求头和处理各种响应格式, 他成功解决了API认证和数据解析的问题。
# 小明的API调试器
import requests
headers = {
'Authorization': 'Bearer YOUR_TOKEN',
'Content-Type': 'application/json',
'User-Agent': 'MyApp/1.0'
}
response = requests.get('https://api.example.com/data', headers=headers)
data = response.json()
print(f"成功获取{len(data)}条数据")
小华在爬取某网站时遇到反爬机制,通过设置随机User-Agent和请求延迟, 成功绕过了网站的安全检测。
# 小华的反反爬策略
import random
import time
user_agents = [
'Mozilla/5.0 (Windows NT 10.0; Win64; x64)',
'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7)'
]
headers = {'User-Agent': random.choice(user_agents)}
time.sleep(random.uniform(1, 3)) # 随机延迟