采用python爬虫爬取数据然后采用echarts数据可视化分析

article/2025/3/19 22:41:03

 前言:采用python爬虫爬取天气数据然后采用echarts数据可视化画图分析未来天气变化趋势 

从获取数据到可视化的流程

(熟悉爬虫爬取数据然后数据可视化这个过程)

一、python爬取未来8-15天的天气数据

1、导入用到的一些python第三方库

import requests
import re
from bs4 import BeautifulSoup
import json
import pandas as pd

2、爬取网页源码,经过utf-8的转换得到网页的源码

url='http://www.weather.com.cn/weather15d/101290101.shtml'
rqg=requests.get(url)
html=rqg.content.decode('utf-8')
soup=BeautifulSoup(html,'lxml')
print(soup.prettify())

3、采用BeautifulSoup库提取时间信息

tt=soup.find_all("span",class_="time")
tt

4、利用列表推导式进行时间的过滤提取

time=[i.string for i in tt]
time

 

5、采用BeautifulSoup库提取天气信息

hh=soup.find_all("span",class_="tem")
hh

 

 6、利用列表推导式进行天气的过滤提取

tem=[i.get_text() for i in hh]
tem

 

7、采用re库进行“/”分隔符来划分温度

tem1=[re.split('/',i) for i in tem]
tem1

 

8、利用列表推导式提取最高温与最低温

h=[i[0] for i in tem1]
hl=[i[1] for i in tem1]
l

 

9、利用列表推导式把摄氏度的符号去除

[int(re.sub('℃','',i)) for i in h][int(re.sub('℃','',i)) for i in l]

 

 二、采用echarts数据可视化分析

<!DOCTYPE html>
<html lang="en"><head><meta charset="UTF-8"><meta http-equiv="X-UA-Compatible" content="IE=edge"><meta name="viewport" content="width=device-width, initial-scale=1.0"><title>气温变化分析</title><script src="js/echarts.js"></script>
</head><body><div id="main" style="width: 800px; height: 600px"></div><script type="text/javascript">var myChart = echarts.init(document.getElementById("main"));mytextStyle = {color: 'blue',fontStyle: 'normal',fontWeight: 1,fontFamily: '黑体',fontSize: 20,};var option = {grid: {show: true,x: 50, y: 66,borderColor: '#FA8072',},title: {show: true,text: '未来8-15天气温变化',subtext: '折线图',target: 'blank',subtarget: 'blank',textAlign: 'center',textBaseline: 'top',textStyle: mytextStyle,padding: 5,itemGap: 10,zlevel: 0,z: 2,left: '20%',top: '10',right: 'auto',bottom: 'anto',backgroundColor: 'yellow',borderColor: '#ccc',borderWidth: 2,shadowColor: 'red',showOffsetX: 0,showOffsetY: 0,shadowBlur: 10,},tooltip: { trigger: 'axis' },legend: { data: ['最高气温', '最低气温'] },toolbox: {show: true,feature: {mark: { show: true },dataView: { show: true, readOnly: false },magicType: { show: true, type: ['line', 'bar'] },restore: { show: true },saveAsImage: { show: true }}},calculable: true,xAxis: [{show: true, type: 'category',boundaryGap: false,data: ['周六(30日)', '周日(1日)', '周一(2日)', '周二(3日)', '周三(4日)', '周四(5日)', '周五(6日)']}],yAxis: [{show: true, type: 'value',axisLabel: { formatter: '{value} °C' }}],series: [{name: '最高气温',smooth: true, type: 'line',data: [28, 28, 19, 16, 23, 29, 27, 20],markPoint: {data: [{type: 'max', name: '最大值', symbol: 'diamond', symbolSize: 25,itemStyle: {normal: { color: 'red' }},},]},markLine: {data: [{type: 'average', name: '平均值',itemStyle:{normal: { borderType: 'dotted', color: 'darkred' }},}],},},{name: '最低气温',smooth: true, type: 'line', data: [15, 11, 8, 8, 12, 13, 13, 13],markPoint: {data: [{type: 'max', name: '最大值', symbol: 'diamond', symbolSize: 25,itemStyle: {normal: { color: 'red' }},},]},markLine: {data: [{type: 'average', name: '平均值',itemStyle:{normal: { borderType: 'dotted', color: 'darkred' }},}],},},],};myChart.setOption(option);</script>
</body></html>

实现的功能比较简单,处理流程还是比较完善的已经尽量实现数据分析的自动化 


http://chatgpt.dhexx.cn/article/uMJRxXgI.shtml

相关文章

python网络爬虫爬取数据,python全网爬取内容

大家好&#xff0c;小编来为大家解答以下问题&#xff0c;python网络爬虫爬取数据&#xff0c;利用python爬取数据&#xff0c;现在让我们一起来看看吧&#xff01; 网络爬虫&#xff0c;就是按照一定规则自动访问互联网上的信息并把内容下载下来的程序或脚本。 在整个的Python…

Python爬虫爬取网页数据并存储(一)

Python爬虫爬取网页数据并存储&#xff08;一&#xff09; 环境搭建爬虫基本原理urllib库使用requests库使用正则表达式一个示例 环境搭建 1.需要事先安装anaconda&#xff08;或Python3.7&#xff09;和pycharm *anaconda可在中科大镜像下下载较快 2.安装中遇到的问题&#x…

【用Java爬取网页图片——爬虫爬取数据】

用Java爬取网页图片——爬虫爬取数据 1、在创建项目中导入jsoup 2、创建一个保存下载图片的路径 3、使用URL读取网页路径&#xff0c;jsoup读取网页内容 4、利用属性标签获取图片连接块 5、因为该路径没有http&#xff1a;头&#xff0c;用StringBuilder增加 5、完善下载路径…

爬虫爬取数据

打开爬取工具页面,使用爬虫工具列表: 开始节点 仅仅是爬虫的起点,所有流程图必须有该节点。 爬取节点 该节点用于请求HTTP/HTTPS页面或接口 请求方法:GET、POST、PUT、DELETE等方法 URL: 请求地址 延迟时间:单位是毫秒,意思是爬取之前延迟一段时间在执行抓取 超时时间:网…

手把手教会 爬虫爬取json数据

提示&#xff1a;本章爬取练习的url地址 发现曲谱 (yoopu.me) 前言 我们学爬虫&#xff0c;有时候想要的数据并不在html文本里面&#xff0c;而是通过js动态渲染出来的。 如果我们需要爬取此类数据的话&#xff0c;我们该怎么办呢&#xff1f; 请读者接着往下看&#xff1a…

六个步骤学会使用Python爬虫爬取数据(爬虫爬取微博实战)

用python的爬虫爬取数据真的很简单&#xff0c;只要掌握这六步就好&#xff0c;也不复杂。以前还以为爬虫很难&#xff0c;结果一上手&#xff0c;从初学到把东西爬下来&#xff0c;一个小时都不到就解决了。 Python爬虫六部曲 第一步&#xff1a;安装requests库和BeautifulS…

网络爬虫入门:网络爬虫的目的,企业获取数据的方式,可以用于做爬虫的程序语言,爬虫爬取数据的步骤

目录 爬取数据的目的&#xff1a; 1.获取大量数据&#xff0c;用于做数据分析 2.公司项目的测试数据&#xff0c;公司业务所需数据 企业获取数据的方式 1.公司自有数据 2.第三方数据平台购买&#xff08;数据堂&#xff0c;贵阳大数据交易所&#xff09; 3.爬虫爬取数据…

利用爬虫爬取数据集

相信大家在学习tensorflow的过程中&#xff0c;会想要自己动手来试试加载我们的数据集&#xff0c;而不再局限于从datasets上下载数据集。但是往往一个模型的训练就需要很庞大的数据集&#xff0c;因此写下这篇博客教大家如何用爬虫爬取图片&#xff0c;制作自己的数据集&#…

微信小程序实名认证接口_人脸核身接口整理

一、微信小程序实名认证接口_人脸核身接口整理 开场一个字&#xff1a; 悲观。目前实名接口&#xff0c;人脸识别接口开放度不高。“实名信息授权”已经回收。 二、人脸核身接口 1.使用条件 需要现申请通过才能使用。 目前开放的分类不多&#xff0c;并且还需要行业资质。 …

微信小程序—人脸识别

1.首先你要有一个可以就行人脸识别的服务器&#xff0c;然后就是上传到百度云&#xff0c;百度云人脸识别的API接口全面升级到V3版本&#xff0c;并进行开放测试 2.wxml代码 <camera device-position"{{sxt}}" flash"off" binderror"error" s…

微信小程序实现人脸识别注册登录

前言 这是一篇关于一个原创微信小程序开发过程的原创文章。涉及到的核心技术是微信小程序开发方法和百度云人脸识别接口。小程序的主体是一个用于个人密码存储的密码管理器&#xff0c;在登陆注册阶段&#xff0c;需要调用百度云人脸识别接口以及百度云在线人脸库的管理接口。…

C# Winform开发人脸识别小程序 (基于百度接口)

目录 一、设计思路1、背景2、简介3、用到的技术4、设计功能一&#xff1a;用户注册功能概述功能示意图时序图 功能二&#xff1a;人脸识别功能概述功能示意图时序图 二、实现1、环境准备2、百度接口配置3、技术准备4、代码实现功能一&#xff1a;用户注册功能二&#xff1a;人脸…

python人脸检测与微信小程序_微信小程序人脸识别功能

本文档以微信小程序为例&#xff0c;微信小程序开发人脸核身功能需要两个申请&#xff1a;腾讯云申请人脸识别服务和小程序申请人脸识别服务&#xff08;注意&#xff1a;只有符合以下条件的机构才能在小程序端申请&#xff09; 政务&#xff1a;政府机构或事业单位 金融&…

使用uniapp开发微信小程序的人脸采集功能/人脸识别功能

✅作者简介&#xff1a;大家好我是瓜子三百克&#xff0c;励志成为全栈工程师的一枚程序猿&#xff0c;也是喜欢在学习和开发中记录笔记的小白博主&#xff01; &#x1f4c3;个人主页&#xff1a;瓜子三百克的主页 &#x1f525;系列专栏&#xff1a;uniapp前端 &#x1f496;…

无需证书微信小程序实现人脸识别—E证通

E证通 前言收费标准接入准备小程序1、 添加服务器域名白名单2、添加业务域名白名单3、安装 SDK/小程序包4、SDK 调用步骤即实操代码4.1、初始化 SDK4.2、 调用 SDK 5、拿到回调结果6、使用uni-app开发6.1、小程序运行后&#xff0c;在小程序中丢入sdk包6.2、把sdk包转换成uni-a…

小程序实现人脸识别与小程序发布

文章目录 前言主要实现功能效果演示PC端手机端 调用百度Ai人脸检测接口小程序发布流程项目源码编程之外 前言 人脸识别其实没那么复杂&#xff0c;我国几个大厂都有他们的AI开放平台&#xff0c;调用一下他们的人脸检测接口就行了&#x1f601;&#xff08;虽然接口不是自己写的…

节假日查询接口,加班,补班,日期查询,放假,日历

一、接口介绍 通过本数据&#xff0c;可以查询节假日、加班日期&#xff0c;以及每个日期的对应的国际日和我国传统节日的简介。广泛使用于日程安排、证券投资、日历等功能的应用中展示。 二、使用案例截图 如何查看调用效果&#xff1f; 1、通过链接&#xff0c;点击【在线…

php中阿里云快递物流查询接口使用

php中阿里云快递物流查询接口使用 官方给的php代码如下&#xff1a; $host "https://ali-deliver.showapi.com";$path "/showapi_expInfo";$method "GET";$appcode "你自己的AppCode";$headers array();array_push($headers, &qu…

智能疾病查询接口

疾病类目&#xff0c;疾病症状&#xff0c;智能疾病查询&#xff0c;医疗知识图谱 ​ 一、接口介绍 最全的疾病大全&#xff0c;收集了数万种常见疾病&#xff0c;任何常见疾病都可查询。 二、功能体验 三、演示效果 四、API文档 4.1 查询疾病科目 4.1.1接入点说明 查询…

调用阿里API获取城市天气信息

目录 一&#xff0e;阿里云天气预报API接口介绍2.1阿里云天气预报API介绍2.2 调用API准备工作及认识 二&#xff0e;调用天气预报API三&#xff0e;代码实现四&#xff0e;结果展示五、问题与解决办法 赵继涛&#xff0c;男&#xff0c;西安工程大学电子信息学院&#xff0c;20…