Python爬虫遇上FineBI画图!这就是黑科技的力量!

<p style="margin:10px auto;color:rgb(57,57,57);font-family:verdana,'ms song',Arial,Helvetica,sans-serif;font-size:14px;text-align:left;background-color:rgb(250,247,239);">我们平时在用Python爬取网页上的数据时,对爬取到到的数据做数据分析展现有很多种方式,比如可以通过echart图表接口、python提供的第三方库,甚至还可以用matlab工具来进行数据统计和图表可视化展现。

<p style="margin:10px auto;color:rgb(57,239);">可无论是以上哪一种方式,都需要通过代码调用Python爬好的数据来进行画图,图表样式属性设置等方面还是比较繁琐的。

<p style="margin:10px auto;color:rgb(57,239);">同样的问题,有一次小编领导要求我做一份有关于南京房价的数据汇报,需要做到报表里面。数据是没有的,自然而然想到用Python爬,爬好后直接做数据图表粘贴到报表中。但后来发现方法太土,汇报时不好做动态的数据展现(影响小编炫技装逼)。于是乎就想办法,将爬取到的数据导入到报表或者BI系统里面,利用BI本身的一些分析功能,联动着其他数据做展现。于是就有了本篇“Python爬数据,FineBI画图”的文章

<h2 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:21px;line-height:1.5;color:rgb(57,sans-serif;text-align:left;background-color:rgb(250,239);">关于FineBI<p style="margin:10px auto;color:rgb(57,239);">这是一个可视化的自助式BI工具,整个操作就是导数据/连数据库——处理数据(可视化ETL)选择图表——拖数据字段——可视化展现&美化,操作简单上手快。小编只是用了其可视化的一隅功能,多数情况下,这个工具都是拿来做可视化报表,对接企业大数据平台,做企业数据运营分析用。

<h2 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:21px;line-height:1.5;color:rgb(57,239);">原理介绍<p style="margin:10px auto;color:rgb(57,239);">废话不多说,直接贴出操作。

<p style="margin:10px auto;color:rgb(57,239);">因为想看看南京房价数据,但是网站上的很多数据都是以HTM5的形式进行呈现的,所以考虑通过Python来进行网页数据抓取和入库,数据分析方面通过FineBI工具直接连接数据库,分析和可视化呈现。

<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,51,51);font-family:verdana,239);">整体的思路:<p style="margin:10px auto;color:rgb(57,239);">数据层方面先通过Python抓取到WEB端的网页数据,之后对爬取到数据进行解析再而存储到MysqL数据入库;

<p style="margin:10px auto;color:rgb(57,239);">最后应用层的数据处理、数据计算统计、图表可视化呈现等工作全都交由FineBI工具来做。

<p style="margin:10px auto;color:rgb(57,239);">

<h2 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:21px;line-height:1.5;color:rgb(57,239);">操作步骤<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,239);">1.引入相关python库包<p style="margin:10px auto;color:rgb(57,239);">首先新建python工程,引入本次爬取网页数据和写入MysqL数据库所需要的requests、pyMysqL、bs4这三个包:

<p style="margin:10px auto;color:rgb(57,239);">

<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,239);">2.获取网页数据<p style="margin:10px auto;color:rgb(57,239);">然后如下图所示,通过编写Python代码获取到某一个房产网页的南京售房平台的网页信息:

<p style="margin:10px auto;color:rgb(57,239);">

<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,239);">3.HTML标签解析<p style="margin:10px auto;color:rgb(57,239);">接着再对DIV样式下的HTML数据包进行逐一解析,获取到想要的房源名称、地址、小区、户型、面积、总价、单价、区域等数据:

<p style="margin:10px auto;color:rgb(57,239);">

<p style="margin:10px auto;color:rgb(57,239);">其中对应网页的标签样式可以通过浏览器的F12开发选项进行快速获取,如下图所示的定位房源信息截图,我们只需要右键浏览器在所需要获取标签样式名称的地方点击检查元素即可(房源名称标签即位house-title的title元素)。

<p style="margin:10px auto;color:rgb(57,239);">

<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,239);">4.MysqL数据回写<p style="margin:10px auto;color:rgb(57,239);">解析好数据之后,再将解析好的数据写入到MysqL数据库中:

<p style="margin:10px auto;color:rgb(57,239);">

<p style="margin:10px auto;color:rgb(57,239);">循环遍历该平台在南京最近七天的网页售房信息数据,页面17页,共计377条数据:

<p style="margin:10px auto;color:rgb(57,239);">

<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,239);">5.安装FineBI&&验证数据入库<p style="margin:10px auto;color:rgb(57,239);">通过FineBI官网下载并按照引导安装好软件:

<p style="margin:10px auto;color:rgb(57,239);">

<p style="margin:10px auto;color:rgb(57,239);">直接通过FineBI提供的数据配置端的功能添加sql数据集(或者直接添加表也行),查看和验证刚刚爬取并且入库的数据是否已经真正成功入库到MysqL中了。

<p style="margin:10px auto;color:rgb(57,239);">如下图所示,Python果然不辱使命,我要的该平台的七天南京的房价售房数据都已经成功写入到了我的MysqL数据库中了。

<p style="margin:10px auto;color:rgb(57,239);">

<h4 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:14px;color:rgb(51,239);">6.FineBI可视化制作&成果展示<p style="margin:10px auto;color:rgb(57,239);">然后思考需要分析展现哪些内容,比如“南京各小区房价分布”、“房型价格分析”、“各区域房价分析”.....通过FineBI制作图表展现。

<p style="margin:10px auto;color:rgb(57,239);">下面这个动图展示了一个图表的制作,其他都类似的,可参考。不懂可参见FineBI官网的帮助文档。

<p style="margin:10px auto;color:rgb(57,239);">

<p style="margin:10px auto;color:rgb(57,239);">花了十分钟,就将我想要看的南京售房信息(房源面积均价、套房总均价、小区房价四象限分布图、区域房价分析、房型价格分析)以可视化的形式呈现出来了。

<p style="margin:10px auto;color:rgb(57,239);">最后就是本次成果展示啦,也晒出来跟大家分享下,如下所示:

<p style="margin:10px auto;color:rgb(57,239);">

<p style="margin:10px auto;color:rgb(57,239);">1.目前南京房源均价为3.78万每平方米,总均价为401.38万,总体上还是比较高的。

<p style="margin:10px auto;color:rgb(57,239);">2.建邺区房价最高,果然房价还是紧跟国家政策啊,建邺目前城区开发建设政府的扶持力度在南京都是走在前面的。鼓楼、玄武、秦淮分别排在二、三、四的位置,雨花台和江宁房价相对较低,综合市区位置来看,还是秦淮区性价比最高啊 。

<p style="margin:10px auto;color:rgb(57,239);">3.房型方面,6室3厅的豪华大宅总均价接近一千万,比如紫檀雅居、碧水湾别墅、滨江奥城听雨苑这一类土豪小区,多集中在建邺和鼓楼区域;一室一厅的房子均价大概在150万的样子,比如托乐嘉单身公寓、经纬城市花园等小区,适合单身贵族或者情侣小夫妇居住,南京各个大区都有;比较主流的三室一厅房价在300万左右,比如乔虹苑小区、良辰美景家园、白云园,多集中在秦淮和鼓楼区域。

<h2 style="margin-top:10px;margin-bottom:10px;padding:0px;font-size:21px;line-height:1.5;color:rgb(57,239);">后记<p style="margin:10px auto;color:rgb(57,239);">Python完成对网页数据的抓取和解析存储之后,配合FineBI强大的数据可视化呈现能力则圆满地完成了本次对南京售房数据的统计和分析需求,绝对推荐!

<p style="margin:10px auto;color:rgb(57,239);">欢迎关注我的博客或者公众号哦:https://home.cnblogs.com/u/Python1234/            Python学习交流

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


我最近重新拾起了计算机视觉,借助Python的opencv还有face_recognition库写了个简单的图像识别demo,额外定制了一些内容,原本想打包成exe然后发给朋友,不过在这当中遇到了许多小问题,都解决了,记录一下踩过的坑。 1、Pyinstaller打包过程当中出现warning,跟d
说到Pooling,相信学习过CNN的朋友们都不会感到陌生。Pooling在中文当中的意思是“池化”,在神经网络当中非常常见,通常用的比较多的一种是Max Pooling,具体操作如下图: 结合图像理解,相信你也会大概明白其中的本意。不过Pooling并不是只可以选取2x2的窗口大小,即便是3x3,
记得大一学Python的时候,有一个题目是判断一个数是否是复数。当时觉得比较复杂不好写,就琢磨了一个偷懒的好办法,用异常处理的手段便可以大大程度帮助你简短代码(偷懒)。以下是判断整数和复数的两段小代码: 相信看到这里,你也有所顿悟,能拓展出更多有意思的方法~
文章目录 3 直方图Histogramplot1. 基本直方图的绘制 Basic histogram2. 数据分布与密度信息显示 Control rug and density on seaborn histogram3. 带箱形图的直方图 Histogram with a boxplot on t
文章目录 5 小提琴图Violinplot1. 基础小提琴图绘制 Basic violinplot2. 小提琴图样式自定义 Custom seaborn violinplot3. 小提琴图颜色自定义 Control color of seaborn violinplot4. 分组小提琴图 Group
文章目录 4 核密度图Densityplot1. 基础核密度图绘制 Basic density plot2. 核密度图的区间控制 Control bandwidth of density plot3. 多个变量的核密度图绘制 Density plot of several variables4. 边
首先 import tensorflow as tf tf.argmax(tenso,n)函数会返回tensor中参数指定的维度中的最大值的索引或者向量。当tensor为矩阵返回向量,tensor为向量返回索引号。其中n表示具体参数的维度。 以实际例子为说明: import tensorflow a
seaborn学习笔记章节 seaborn是一个基于matplotlib的Python数据可视化库。seaborn是matplotlib的高级封装,可以绘制有吸引力且信息丰富的统计图形。相对于matplotlib,seaborn语法更简洁,两者关系类似于numpy和pandas之间的关系,seabo
Python ConfigParser教程显示了如何使用ConfigParser在Python中使用配置文件。 文章目录 1 介绍1.1 Python ConfigParser读取文件1.2 Python ConfigParser中的节1.3 Python ConfigParser从字符串中读取数据
1. 处理Excel 电子表格笔记(第12章)(代码下载) 本文主要介绍openpyxl 的2.5.12版处理excel电子表格,原书是2.1.4 版,OpenPyXL 团队会经常发布新版本。不过不用担心,新版本应该在相当长的时间内向后兼容。如果你有新版本,想看看它提供了什么新功能,可以查看Open
1. 发送电子邮件和短信笔记(第16章)(代码下载) 1.1 发送电子邮件 简单邮件传输协议(SMTP)是用于发送电子邮件的协议。SMTP 规定电子邮件应该如何格式化、加密、在邮件服务器之间传递,以及在你点击发送后,计算机要处理的所有其他细节。。但是,你并不需要知道这些技术细节,因为Python 的
文章目录 12 绘图实例(4) Drawing example(4)1. Scatterplot with varying point sizes and hues(relplot)2. Scatterplot with categorical variables(swarmplot)3. Scat
文章目录 10 绘图实例(2) Drawing example(2)1. Grouped violinplots with split violins(violinplot)2. Annotated heatmaps(heatmap)3. Hexbin plot with marginal dist
文章目录 9 绘图实例(1) Drawing example(1)1. Anscombe’s quartet(lmplot)2. Color palette choices(barplot)3. Different cubehelix palettes(kdeplot)4. Distribution
Python装饰器教程展示了如何在Python中使用装饰器基本功能。 文章目录 1 使用教程1.1 Python装饰器简单示例1.2 带@符号的Python装饰器1.3 用参数修饰函数1.4 Python装饰器修改数据1.5 Python多层装饰器1.6 Python装饰器计时示例 2 参考 1 使
1. 用GUI 自动化控制键盘和鼠标第18章 (代码下载) pyautogui模块可以向Windows、OS X 和Linux 发送虚拟按键和鼠标点击。根据使用的操作系统,在安装pyautogui之前,可能需要安装一些其他模块。 Windows: 不需要安装其他模块。OS X: sudo pip3
文章目录 生成文件目录结构多图合并找出文件夹中相似图像 生成文件目录结构 生成文件夹或文件的目录结构,并保存结果。可选是否滤除目录,特定文件以及可以设定最大查找文件结构深度。效果如下: root:[z:/] |--a.py |--image | |--cat1.jpg | |--cat2.jpg |
文章目录 VENN DIAGRAM(维恩图)1. 具有2个分组的基本的维恩图 Venn diagram with 2 groups2. 具有3个组的基本维恩图 Venn diagram with 3 groups3. 自定义维恩图 Custom Venn diagram4. 精致的维恩图 Elabo
mxnet60分钟入门Gluon教程代码下载,适合做过深度学习的人使用。入门教程地址: https://beta.mxnet.io/guide/getting-started/crash-course/index.html mxnet安装方法:pip install mxnet 1 在mxnet中使
文章目录 1 安装2 快速入门2.1 基本用法2.2 输出图像格式2.3 图像style设置2.4 属性2.5 子图和聚类 3 实例4 如何进一步使用python graphviz Graphviz是一款能够自动排版的流程图绘图软件。python graphviz则是graphviz的python实