python爬虫东方财富网的股票资金流(以平安银行为例)

news/2024/10/18 14:15:28/

网址:平安银行(000001)资金流向 _ 数据中心 _ 东方财富网、

爬取内容:

工具:jupyter notebook

所需要的包:

import requests ##获取网页
from bs4 import BeautifulSoup
import pprint
import json
import pandas as pd
from lxml import etree ##解析文档
import re

首先在原网页上进入开发者模式,点击网络后ctrl+r重新载入,会发现,该网站的数据采用的jQuery编码,因此我们可以找到一个含有所有表格数据的url:

 

 

所以获取源代码:

url=f'http://push2his.eastmoney.com/api/qt/stock/fflow/daykline/get?cb=jQuery112309173939785847636_1634476786717&lmt=0&klt=101&fields1=f1%2Cf2%2Cf3%2Cf7&fields2=f51%2Cf52%2Cf53%2Cf54%2Cf55%2Cf56%2Cf57%2Cf58%2Cf59%2Cf60%2Cf61%2Cf62%2Cf63%2Cf64%2Cf65&ut=b2884a393a59ad64002292a3e90d46a5&secid=0.000001&_=1634476786718'
data=requests.get(url)#获取网页源代码
data.encoding='utf-8'
str1=str(data.text)

再将内容转化为字典,提取字典中的'klines',将数据转换为list

dict1=eval(str1[42:-2])#转化为字典
dict2=dict1['data']['klines']list1=list(dict1['data']['klines'])#提取字典中的'klines',将数据转换为list
print(dict2[1])
split=re.split('[,]',dict2[1])
print(split)

将数据切片,将例如2021-05-19,-5004505.0,-37477279.0,42481776.0,67939072.0,-72943577.0,-0.49,-3.67,4.15,6.64,-7.13,23.60,-1.26的数据按逗号分开,从而直接转为列表

i=0
list1=[]
for i in range(len(dict2)):i=1+isplit=re.split('[,]',dict2[i])list1.append(split)print(list1) #数据切片,将例如2021-05-19,-5004505.0,-37477279.0,42481776.0,67939072.0,-72943577.0,-0.49,-3.67,4.15,6.64,-7.13,23.60,-1.26的数据按逗号分开,从而直接转为列表

输出为excel:

df1=pd.DataFrame(list1)
df1.columns=['日期','主力净流入-净额','小单净流入-净额','中单净流入-净额','大单净流入-净额','超大单净流入-净额','主力净流入-净占比','小单净流入-净占比','中单净流入-净占比','大单净流入-净占比','超大单净流入-净占比','收盘价','涨跌幅','0','0']
print(df1)
df1.to_excel('C:\\Users\\hanyun\\Desktop\\d.xlsx')

若将数据导入到mysql中,则需要create_engine

import pymysql
from sqlalchemy import create_engine 
name='root'
password='root'
d = pymysql.connect(host='localhost',user='root',password='root',database='爬虫1',port=3306,charset='utf8')#建立本地数据库连接
yconnect = create_engine('mysql+pymysql://root:root@localhost:3306/爬虫1?charset=utf8')
pd.io.sql.to_sql(df1,'ecnomic', yconnect, schema='爬虫1', if_exists='append')


http://www.ppmy.cn/news/794242.html

相关文章

股票分时数据获取-东方财富

获取下股票分时数据,分时均价下线,分时成交额等,用于量化t0交易条件还是很不错了的。 代码如下: #!/usr/bin/env python # -*- coding: utf-8 -*-import requests import time import json import pandas as pddef fenshishuju_d…

股票爬虫

股票爬虫(第二篇:代码实现) 看不懂代码的同学可以去找第一篇看一看 第一篇点击此链接 文章目录 股票爬虫(第二篇:代码实现)看不懂代码的同学可以去找第一篇看一看前言准备1、新建Maven项目2、需要的依赖…

JAVA+MYSQL可视化学生信息管理系统

掌握数据库连接Java程序可视化界面的流程,有效编写Java可视化界面程序及其功能(增删改查),了解数据库内容编写和连接的流程。 定义变量:Sno(String),Sname(String),_Class(String),Age(int),Sex(String) public class…

股票买卖明细接口是怎样实现查询交易数据的?

股票买卖明细接口作为软件应用而言,很多资源和数据不一定就是由其自身提供的,所以说某些功能还是需要调用第三方提供的服务,这其中就涉及到API接口的调用。也就是说,股票买卖明细接口是与数据端直接挂钩的,通过一些量化…

l2数据接口如何获取股票实时行情数据?

l2数据接口在股票交易中常常需要挖掘股票数据,可以是l1和l2接口来执行获取股票实时行情数据的原理,将自己需要查询的需求就可以数据接口上搜索就可以很快的获取数据了。那么,在获取的过程中,是需要基于开发员将股票数据接口介入开…

股市量化交易接口如何获取A股历史数据?

股市量化交易接口其实也是对散户开放等是比较安全稳定接口,但是其接口通过第三方券商完成交易,主要用做于个人或机构做私募等量化投资数据参考的首选,比如说在股市中进行量化投资时,通过接口策略的定制将股票数据快速筛选&#xf…

Redis 删除 key用 del 和 unlink 有啥区别?

问题 del 和 unlink 有啥区别啊?为什么String类型删除不会做异步删除? 彬彬回答 DEL 和 UNLINK 都是同步的释放 key 对象,区别是怎么释放后面的 value 对象 DEL 每次都是同步释放 value 部分,如果 value 很大,例如一…

量化股票交易接口如何一键执行委托下单?

大家都知道,我们平时在进行股票交易时候,只需要在手机或者电脑上打开量化股票交易接口系统一键点买入和卖出,就简单的完成了对应的股票就在二级市场的股票交易。当然了,我们在完成这笔交易都是需要有对应的程序来处理,…