python简单爬虫爬取图片
前言:
网络上的信息很多,有的时候我们需要关键字搜索才可以快速方便的找到我们需要的信息。今天我们实现搜索关键字爬取堆糖网上相关的美图,零基础学会通用爬虫,当然我们还可以实现多线程爬虫,加快爬虫爬取速度
环境:
windows
pycharm
python3
顺带给大家分享Python的安装环境,大家可以自取
导入模块
1 import urllib.parse import json import requests import jsonpath
2
确定目标网址
1 url = ‘https://www.duitang.com/napi/blog/list/by_search/?kw={}&start={}’
2
分析网站,确定爬取目标
1 label = ‘美女’ label = urllib.parse.quote(label)
2
发送请求,提取数据
1 num = 0 for index in range(0,2400,24):
2 u = url.format(label,index)
3 we_data = requests.get(u).text
4
类型转换
1 we_data = requests.get(u).text
2 photo = jsonpath.jsonpath(html,“$…path”)
3
保存数据
1 for i in photo:
2 a = requests.get(i)
3 with open(r’C:\Users\Administrator\Desktop\tupian{}.jpg’.format(num),‘wb’) as f:
4 f.write(a.content) # 二进制
5 num += 1
6
对Python感兴趣或者是正在学习的小伙伴,可以加下面交流群,从0基础的python脚本到web开发、爬虫、django、数据挖掘数据分析等。
0基础到项目实战的资料都有整理。送给每一位python的小伙伴!每晚分享一些学习的方法和需要注意的小细节,学习路线规划,利用编程赚外快。