Python抓取数据到可视化全流程的实现过程
更新时间:2022年1月9日 14:14 点击:341 作者:你隔壁的小王
1、爬取目标网站:业绩预告_数据中心_同花顺财经
(ps:headers不会设置的可以看这篇:Python 用requests.get获取网页内容为空 ’ ’)
import pandas as pd import numpy as np import matplotlib.pyplot as plt import re import requests##把各种可能用到的包提前导好 headers={ 'Accept': 'text/html,*/*; q=0.01', 'hexin-v': 'A2C11EVPFXAhNKl0PUpM6xp8MWU2aUUO5k-YOdpwLngMrQpTgnkUwzZdaMMp', 'Referer': 'http://data.10jqka.com.cn/financial/yjyg/', 'Cookie':'对应填写', 'User-Agent':'对应填写' } url="http://data.10jqka.com.cn/ajax/yjyg/date/2021-12-31/board/ALL/field/enddate/order/desc/page/{}/ajax/1/free/1/" result = '' for i in range(1,5): result += requests.get(url.format(i), headers=headers).text result
爬取成功,检查数据:
2、获取序号、股票代码、等你所需要的信息
index = re.findall('<td>(.*)</td>',result) index
148条数据符合预期,继续查看股票代码(这里使用正则表达式查询,可以看这篇里边对正则表达式进行了讲解:正则表达式+常用示例)
stock_code = re.findall('class="stockCode">(.*)</a>',result) print(stock_code)
3、组成DataFrame
data = pd.DataFrame({ "stock_code":stock_code, "stock_name":stock_name, "performance":performance, "summary":summary }, index=index) data
组合成功
4、处理数据
使用正则筛选出净利润和增长幅度
data['start_profit'] = data['summary'].str.extract('(-{0,1}\d{0,10}\.{0,1}\d{0,10})万元') data['end_profit'] = data['summary'].str.extract('至(-{0,1}\d{0,10}\.{0,1}\d{0,10})万元') data["start_range"] = data['summary'].str.extract('(\d{0,5}\.{0,1}\d{0,5})%') + "%" data["end_range"] = data['summary'].str.extract('至(\d{0,5}\.{0,1}\d{0,5})%') + "%" data.head()
判断盈利情况:
def if_profit(x): if x in ['业绩预降', '业绩大幅上升', '业绩大幅下降', '业绩预盈', '业绩预增', '预计扭亏']: return 1 if x in ['预计减亏', '不确定','业绩预亏', '预计增亏', '预计续亏']: return -1 return 0 data['is_profit'] = data.apply(lambda x : if_profit(x["performance"]),axis=1) data.head() ##计算盈利多少 yingli = (data['is_profit'] == 1).sum() yingli ##亏损多少 kuisun = (data['is_profit'] == -1).sum() kuisun
通过绘制饼图实现可视化:
plt.pie([yingli,kuisun], labels=['盈利','亏损'], autopct='%.2f%%') font={ "family":"kaiti", "size":"15" } plt.rc("font",**font) plt.title('148家公司盈利和亏损情况占比') plt.show()
到此这篇关于Python抓取数据到可视化全流程的实现过程的文章就介绍到这了,更多相关Python抓取数据到可视化 内容请搜索猪先飞以前的文章或继续浏览下面的相关文章希望大家以后多多支持猪先飞!
原文出处:https://blog.csdn.net/weixin_43212535/article/details/122299
相关文章
- 这篇文章主要介绍了如何使用RoughViz可视化Vue.js中的草绘图表,帮助大家更好的理解和使用roughViz,感兴趣的朋友可以了解下...2021-01-31
- 这篇文章主要介绍了使用pyecharts1.7进行简单的可视化大全,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2020-05-18
python seaborn heatmap可视化相关性矩阵实例
这篇文章主要介绍了python seaborn heatmap可视化相关性矩阵实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-06-04- 这篇文章主要介绍了Vue使用echarts可视化组件的方法,本文通过实例代码案例给大家详细介绍,需要的朋友可以参考下...2021-07-28
- 这篇文章主要介绍了bootstrap可视化布局入门教程的相关资料,本文介绍的非常详细,具有参考借鉴价值,感兴趣的朋友一起看看吧...2016-10-03
- 这篇文章主要介绍了python开发实时可视化仪表盘的示例,帮助大家更好的理解和学习使用python,感兴趣的朋友可以了解下...2021-05-08
- 这篇文章主要介绍了Python数据可视化如何使用Pyecharts库来实现桑葚图效果图,文中给出实现的示例代码,有需要的朋友可以借鉴参考想,希望能够有所帮助...2021-09-30
- 今天小编就为大家分享一篇使用pytorch实现可视化中间层的结果,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-05-08
- 调用 <?php /** * 新浪博客编辑器PHP版封装类调用方法 * */ header(\'Content-Type:text/html;Charset=utf-8;\'); include_once(\'sinaEditor.class.php\'...2016-11-25
- 这篇文章主要介绍了Python可视化Matplotlib介绍和简单图形的绘制,文中附含详细示例代码,有需要的朋友可以借鉴参考下,希望能够有所帮助...2021-09-27
- 由于Python的动态性和多功能性,它比其他语言的速度要慢.有时复杂的计算或算法需要大量时间才能在Python中执行.因此需要跟踪代码的执行流,深入了解性能瓶颈,需要的朋友可以参考下...2021-06-17
python数据可视化Pyecharts库sankey修改桑葚图颜色
这篇文章主要介绍了python数据化Pyecharts库sankey修改桑葚图颜色,文中有之前绘制桑葚图教程链接,本文就来修改一下桑葚图的颜色,有需要的朋友欢迎参阅借鉴...2021-09-30- 这篇文章主要介绍了Java可视化之实现文本的加密和解密,文中有非常详细的代码示例,对正在学习java的小伙伴们有非常好的帮助,需要的朋友可以参考下...2021-05-01
- 今天小编就为大家分享一篇pytorch实现mnist数据集的图像可视化及保存,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-04-27
- 今天小编就为大家分享一篇使用tensorboard可视化loss和acc的实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-04-22
- 2020年底以来,欧美,印度,中国,俄罗斯等多国得制药公司纷纷推出了针对新冠肺炎的疫苗,这部分主要分析了2020年以来全球疫情形势,各类疫苗在全球的地理分布,疫苗在各国的接种进度进行可视化展示,需要的朋友可以参考下...2021-05-19
- 今天再带大家简单爬一波京东的商品数据呗,废话不多说,文中有非常详细的代码示例,需要的朋友可以参考下...2021-06-07
- 这篇文章主要介绍了R语言中的PCA分析与可视化的相关资料,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2021-05-06
- 这篇文章主要介绍了Python数据可视化实现漏斗图过程图解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下...2020-07-20
TensorFlow可视化工具TensorBoard默认图与自定义图
这篇文章主要介绍了TensorFlow可视化工具TensorBoard默认图与自定义图的使用操作示例,有需要的朋友可以借鉴参考下,希望能够有所帮助...2021-10-17