爬取手机app实例:fiddler抓包爬取汽车之家

news/2024/12/4 20:02:28/

配置爬取app的东西看此博客

首先手机设置代理,我设置的是手动代理,然后把端口名写为8888和主机名是Ipv4的地址,电脑上的fiddler也设置好就可以开始抓包了

连接好以后,手机打开汽车之家app,点击二手车车源,fiddler抓到包如图(记得要先点一下那个黄条对数据进行解压)
在这里插入图片描述
然后发现手机端的这个数据的结构是及其的简单清晰。
请求头用手机的请求头,然后就可以爬取了

import requests
from lxml import etree
import pandas as pd
import csv
import osdef get_html(url):headers = {'User-Agent': 'Mozilla/5.0 (Linux; Android 9; ONEPLUS A6000 Build/PKQ1.180716.001; wv) AppleWebKit/537.36 (KHTML, like Gecko) Version/4.0 Chrome/71.0.3578.99 Mobile Safari/537.36 autohomeapp/1.1+%28auto_android%3B9.9.3%3BT1sFhhD74d5Lzdqfy68A54uWVQQFg-_zy6ygMUcD9mIqrPuMbFuGWA%3B9%3BONEPLUS%2BA6000%3B4e9165e6a117c54ba41734298ae9b5ae%29 auto_android/9.9.3 nettype/wifi',}try:response = requests.get(url, headers=headers)if response.status_code == 200:return response.content.decode()else:print('1')return Noneexcept:print('2')return Nonedef get_info(html):selector = etree.HTML(html)a_list = selector.xpath('//li/a')info_list = list()for a in a_list:try:title = a.xpath('h3/text()')[0]where = a.xpath('p/text()')[0].strip().split('/')[0]gone = a.xpath('p/text()')[0].strip().split('/')[1]release_time = a.xpath('p/text()')[0].strip().split('/')[2]infos = a.xpath('ins//text()')price = infos[0] + infos[1]infos[:2] = []#对列表前两个元素进行删除    advantage = ','.join(infos) if len(infos) != 0 else '无'list_one = [title, price, where, gone, release_time, advantage]print(list_one)info_list.append(list_one)except:passwrite_file(info_list)def write_file(info_list):file_size = os.path.getsize('D:/汽车之家2.csv')if file_size == 0:first = ['车名', '价格', '所在地', '已走路程', '购买年份', '好处']writer = pd.DataFrame(columns=first, data=info_list)writer.to_csv('D:/汽车之家2.csv', encoding='utf-8',index=False)else:with open('D:/汽车之家2.csv', 'a+', encoding='utf-8', newline='') as fp:writer = csv.writer(fp)writer.writerows(info_list)if __name__ == '__main__':urls = ['https://m.che168.com/app/quanguo/list/?sourcename=mainapp&safe={}&pvareaid=106365'.format(i) for i in range(1,21)]for url in urls:html = get_html(url)get_info(html)

最后结果
在这里插入图片描述


http://www.ppmy.cn/news/213696.html

相关文章

手机设备唤醒计算机,手机遥控电脑开机神器!局域网唤醒App

用手机如何遥控电脑开机?如何用手机网络唤醒电脑?现在是冬天,很多朋友都不想起床开电脑,其实完全可以用手机遥控唤醒电脑开机,然后远程控制电脑进行一些操作,例如挂机下载什么的——只要手机和电脑都联网(最…

魅族手机无信号无服务器,魅族手机没有信号的解决教程

2015-09-05 10:52:26 魅族手机没有信号的解决教程 标签:魅族手机 魅族 信号 教程 如今智能手机已经成为很多用户们生活中不可或缺的一部分,智能手机给我们的生活带来了很多便利但是同时也有一些烦恼,那就是信号问题。针对大家经常遇到的问题,…

支持鸿蒙系统的手机名单,鸿蒙系统支持哪些手机

鸿蒙系统已经能够更新了,这让华为的用户都非常的激动期待的想马上进行更新,那么整款国人之光系统到底支持哪些手机呢?下面就为大家带来了华为鸿蒙系统支持手机型号名单,快来一起看看吧。 鸿蒙系统支持哪些手机 鸿蒙系统支持的华为…

智能手机之手机成像

手机成像是由:lens(镜组——眼睛),sensor(传感器——视网膜),ISP(大脑)以及算法决定的。 “像素”指的是相机传感器上的最小感光单位,而我们通常所说的“XXX…

手机损坏的数据导出方法

主板损坏的症状 手机主板损坏的症状表现一般为系统启动失败、屏幕无显示、启动黑屏死机、无法开机、没有声音、无法打电话、没网络等等。 资料的重要性 手机坏了,怎么把手机里面重要的资料导出来?今天小编就来跟大家说说手机导资料这个事。 手机坏了,具体要看手机是哪里…

月租最便宜的手机卡_给大家推荐几张0月租,打电话还便宜的手机卡

元旦小长假期间,小编回了趟老家,抽空去了下营业厅,想给老妈换个便宜的手机套餐。老妈用户的是电信的46元套餐,内含来电显示200分钟国内语音绑定固话。结果去营业厅一问,能换的较便宜的套餐,也要29元&#x…

金和IUapp制作“手机之家”

看我再次看到金和IU这个平台时,我就想起2年前也有看到的类似的平台,不过现如今的app制作流程比以前更加多样化了。这个制作出来的app速度确实是快的惊人,app开发人员要话个几天完成的功能,而这个平台的自动化功能就几秒钟就能搞定…