找数据?这几个数据源网站你都知道吗!?

article/2025/9/21 18:39:04

来源:经管学苑

转自:经管学苑


大家好,我是小z

在这个用数据说话的时代,能够打动人的往往是用数据说话的理性分析,无论是对于混迹职场的小年轻,还是需要数据进行分析和研究的同学,能够找到合适的数据源都是非常重要的。特别是想要对一个新的领域进行研究和探索,拥有这个领域的数据那都是有十分重要的意义的。

在这里给大家推荐一些能够用上的数据获取方式,有了这些资源,不仅可以在数据收集的效率上能够得到很大的提升,同时也可以学习更多思维方式。

1

公开的数据库

- 国家数据 -

http://data.stats.gov.cn/index.htm


数据来源于中国国家统计局,包含了我国经济民生等多个方面的数据,并且在月度、季度、年度都有覆盖,较为全面和权威,对于社会科学的研究不要太有帮助。最关键的是,网站简洁美观,还有专门的可视化读物。

- CEIC -

http://www.ceicdata.com/zh-hans



最完整的一套超过128个国家的经济数据,能够精确查找GDP, CPI, 进口,出口,外资直接投资,零售,销售,以及国际利率等深度数据。其中的“中国经济数据库”收编了300,000多条时间序列数据,数据内容涵盖宏观经济数据、行业经济数据和地区经济数据。

- wind(万得)-

http://www.wind.com.cn/


万得被誉为中国的Bloomberg,在金融业有着全面的数据覆盖,金融数据的类目更新非常快,据说很受国内的商业分析者和投资人的亲睐。

- 搜数网 -

http://www.soshoo.com/


已加载到搜数网站的统计资料达到7,874本,涵盖1,761,009张统计表格和364,580,479个统计数据,汇集了中国资讯行自92年以来收集的所有统计和调查数据,并提供多样化的搜索功能。

- 中国统计信息网 -

http://www.tjcn.org/


国家统计局的官方网站,汇集了海量的全国各级政府各年度的国民经济和社会发展统计信息,建立了以统计公报为主,统计年鉴、阶段发展数据、统计分析、经济新闻、主要统计指标排行等。

- 亚马逊aws -

http://aws.amazon.com/cn/datasets/?nc1=h_ls


来自亚马逊的跨科学云数据平台,包含化学、生物、经济等多个领域的数据集。

- figshare -

https://figshare.com/


研究成果共享平台,在这里你会发现来自世界的大牛们的研究成果分享,同时get其中的研究数据,内容很有启发性,网站颇具设计感。

- github -

https://github.com/caesar0301/awesome-public-datasets


如果觉得前面的数据源还不够,github上的大神已经为大家整理好了一个非常全面的数据获取渠道,包含各个细分领域的数据库资源,自然科学和社会科学的覆盖都很全面,简直是做研究和数据分析的利器。

随便上几个图,满满的都是资源啊

2

 数据交易平台

- 优易数据 -

http://www.youedata.com/

由国家信息中心发起,拥有国家级信息资源的数据平台,国内领先的数据交易平台。平台有B2B、B2C两种交易模式,包含政务、社会、社交、教育、消费、交通、能源、金融、健康等多个领域的数据资源。

- 数据堂 -

http://www.datatang.com/

专注于互联网综合数据交易,提供数据交易、处理和数据API服务,包含语音识别、医疗健康、交通地理、电子商务、社交网络、图像识别等方面的数据。

3

网络指数‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

- 百度指数 -

http://index.baidu.com/



大家都很熟悉的指数查询平台,可以根据指数的变化查看某个主题在各个时间段受关注的情况,进行趋势分析、舆情预测有很好的指导作用。除了关注趋势之外,还有需求分析、人群画像等精准分析的工具,对于市场调研来说具有很好的参考意义。同样的另外两个搜索引擎搜狗、360也有类似的产品,都可以作为参考。

- 阿里指数 -

https://alizs.taobao.com/

国内权威的商品交易分析工具,可以按地域、按行业查看商品搜索和交易数据,基于淘宝、天猫和1688平台的交易数据基本能够看出国内商品交易的概况,对于趋势分析、行业观察意义不小。

- 艾瑞咨询 -

http://www.iresearch.com.cn/


艾瑞作为老牌的互联网研究机构,在数据的沉淀和数据分析上都有得天独厚的优势,在互联网的趋势和行业发展数据分析上面比较权威,艾瑞的互联网分析报告可以说是互联网研究的必读刊物。

- 友盟指数 -

http://www.umeng.com/

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

友盟在移动互联网应用数据统计和分析具有较为全面的统计和分析,对于研究移动端产品、做市场调研、用户行为分析很有帮助。除了友盟指数,友盟的互联网报告同样是了解互联网趋势的优秀读物。

- 爱奇艺指数 -

http://index.iqiyi.com/


爱奇艺指数是专门针对视频的播放行为、趋势的分析平台,对于互联网视频的播放有着全面的统计和分析,涉及到播放趋势、播放设备、用户画像、地域分布、等多个方面。由于爱奇艺庞大的用户基数,该指数基本可以说明实际情况。

- 猫眼专业版-

http://piaofang.maoyan.com/


电影票房统计分析平台,猫眼专业版有实时的票房统计,影片的排盘情况、上座率和影院数据,对于当前电影的分析是必不可少的。

4

网络采集器

网络采集器是通过软件的形式实现简单快捷地采集网络上分散的内容,具有很好的内容收集作用,而且不需要技术成本,被很多用户作为初级的采集工具。

- 火车采集器 -

http://www.locoy.com/


一款专业的互联网数据抓取、处理、分析,挖掘软件,可以灵活迅速地抓取网页上散乱分布的数据信息,并通过一系列的分析处理,准确挖掘出所需数据,最常用的就是采集某些网站的文字、图片、数据等在线资源。接口比较齐全,支持的扩展比较好用,懂代码的话,可以使用PHP或C#开发任意功能的扩展。

- 八爪鱼 -

http://www.bazhuayu.com/


简单实用的采集器,功能齐全,操作简单,不用写规则。特有的云采集,关机也可以在云服务器上运行采集任务。

- 集搜客 -

http://www.gooseeker.com/

一款简单易用的网页信息抓取软件,能够抓取网页文字、图表、超链接等多种网页元素,提供好用的网页抓取软件、数据挖掘攻略、行业资讯和前沿科技等。

5

网络爬虫

作为极客们最喜欢的数据收集方式,爬虫高度的自由性、自主性都使其成为数据挖掘的必备技能,当然精通python等语言是必要前提。

利用爬虫可以做很多有意思的事情,当然也可以获取一些从其它渠道获取不到的数据资源,更重要的是帮你打开寻找和搜集数据的思路。

- 利用爬虫爬取网络图片 -


爬取的图像素材

你看到某个网站上的图片恰好是你需要的,但是量大单个下载太麻烦,那么利用爬虫你可以快速地进行抓取,并可以根据标签、特征、颜色等信息进行分类储存。从此不缺设计素材,不缺美女图片,连斗图都多了几分自信。

- 利用爬虫爬取高质量资源 -


爬取的音乐资源

我们总是想快速地去搜集高质量的网络资源,但是人工查找比对实在太麻烦,利用爬虫你就可以轻松解决。比如爬取知乎点赞最多的文章列表,爬取网易云音乐评论最多的音乐,爬取豆瓣网高评分的电影或图书……总之,你可以从此拒绝平庸。

- 利用爬虫获取舆情数据 -


爬取的某招聘网站职位信息

比如你可以批量爬取社交平台的数据资源,可以爬取网站的交易数据,爬取招聘网站的职位信息等,可以用于个性化的分析研究。

总之,爬虫是非常强大的,甚至有人说天下没有不能爬的网站,因而爬取数据也成为了很多极客的乐趣。开发出高效的爬虫工具可以帮助我们节省很多时间,可以完全按照自己的需求来订制,想想这个世界就太美好。

6

小工具

- Web Plot Digitizer -

http://arohatgi.info/WebPlotDigitizer/app/


比如我们在查看期刊文献的时候看到一张成型的图表,但其本身数据是缺失的,你想获得这个图表的相关数据怎么办?有了这个小工具就非常easy了。直接上传我们需要获得数据的图表,如下:

然后我们就会获得如下的数据反馈,感觉运筹帷幄有木有,对于一些不需要十分精确的分析研究足够使用。

当然并不推荐用这个作为量化分析的依赖,对于定性的分析,做ppt级的数据统计分析就足够了。

- you-get -

https://you-get.org/


这是一个程序员基于python 3开发的项目,已经在github上面开源,支持64个网站,包括优酷、土豆、爱奇艺、b站、酷狗音乐、虾米……总之你能想到的网站都有! 还有一个黑科技的地方,即使是名单上没有的网站,当你输入链接,程序也会猜测你想要下载什么,然后帮你下载。

下载优酷视频

批量下载图片


当然you-get要在python3环境下进行安装,用pip安装好后,在终端输入“you get+你想下载资源的链接”就可以等着收藏资源了。

7

数据导航

收集数据是一种能力,学习收集数据也是一种能力,数据的来源是没有穷尽的,转换一种思维,你就可以获得不一样的数据,下面推荐几个可以用到的大数据导航,从这里面你可能会发现一些你自己想要的东西。每个人喜欢的收集数据的渠道不尽相同,只有尽量多地去见识和实践才会发现更多的适合自己的数据获取方式。

- 199IT大数据导航 -

http://hao.199it.com/

- 数据分析网导航 -

http://www.afenxi.com/hao

- 大数据人导航 -

http://hao.bigdata.ren/

在互联网高度发达的今天,数据资源异常的丰富和庞大,如何高效地获取数据成为一种重要的能力,毕竟获取数据是一切用数据说话的前提。当然往往只需要熟练掌握一两种方法,便足够大多数人应付大多数场景和需求,所以选择合适的数据获取渠道还需要亲自探究。

●用Python把朋友头像变表情包?

●取数,取数,取个屁啊!

后台回复“入群”即可加入小z数据干货交流群

http://chatgpt.dhexx.cn/article/7G9JrHvS.shtml

相关文章

最全的数据查询网站

1、国家数据——主要用户:社会情况研究人员 国家统计局开设网站,公布我国各个领域的宏观经济情况,权威度高 2、中国裁判文书网——主要用户:法律从业/学习/爱好者 中国最高人民法院开设,权威可信,可用于…

这些数据获取方式,一般人不知道

全世界只有3.14 % 的人关注了 数据与算法之美 在这个用数据说话的时代,能够打动人的往往是用数据说话的理性分析,无论是对于混迹职场的小年轻,还是需要数据进行分析和研究的同学,能够找到合适的数据源都是非常重要的。特别是想要对…

9个网站,给不知道去哪找数据的你

Data tells story. 在这个处处用数据说话的时代,掌握数据的来源渠道非常重要。 本文从宏观数据、行业数据、互联网搜索数据、公司数据等角度为大家整理了多个网站,解决您的数据需求。 01 国家统计局(宏观数据) 网站包含了人口…

图灵简述

图灵 在计算机的世界中,图灵声名赫赫,是大神级的存在。他被誉为计算机和人工智能之父,计算机界的最高奖“图灵奖”就是以他的名字命名,被称为计算机界的诺贝尔奖。1999年《时代》周刊将图灵评为“二十世纪最重要的一百人”之一。现…

图灵机

内容&#xff1a; 练习&#xff1a; 1、关于“图灵机”&#xff0c;下列说法不正确的是_____。 A 图灵机给出的是计算机的理论模型,是一种离散的、有穷的、构造性的问题求解思路 B 图灵机的状态转移函数<q, X, Y, R(或L或N), p>&#xff0c;其实就是一条指令&#xff…

【置顶】图灵近期出版和即将出版的新书

图灵近期重点新书 堪与《重构》媲美的软件实战图书Amazon 5星评价里程碑性著作 中文书名&#xff1a; 修改代码的艺术 英文书名&#xff1a; Working Effectively with Legacy Code 原书作者&#xff1a; Michael Feathers 译者 : 刘未鹏 原书出版公司&#xff1a; Prentic…

【图神经网络】图数据和图数据相关任务

引言 本文是学习刘忠雨老师所著的《深入浅出图神经网络》过程中的笔记和记录整理&#xff0c;最后会有参考文献标注对应章节和内容中可能出现的参考文献、博文出处。 目录 概述图的基本类型图数据同构图&#xff08;Homogeneous Graph&#xff09;异构图&#xff08;Heterogen…

图灵9本新书上市!

《人工智能简史&#xff08;第2版&#xff09;》 作者&#xff1a;尼克 定价&#xff1a;79元 页数&#xff1a;368页 《人工智能简史》全面讲述人工智能的发展史&#xff0c;几乎覆盖人工智能学科的所有领域&#xff0c;包括人工智能的起源、自动定理证明、专家系统、神经网…

图的关节点算法实现

关节点&#xff1a;可以将一个连通分量分割成两个或多个连通分量的点。 重连通图&#xff1a;没有关节点的图&#xff0c;在重连通图中任意两点之间至少存在两条路径 关节点求法&#xff1a;算法较难理解&#xff0c;算法结合了先序深度搜索和后序深度搜索&#xff0c;先序深度…

重磅!图灵奖,公布!

来源&#xff1a;青塔 3月22日&#xff0c;现年76岁的以太网发明者、3Com公司创始人鲍勃梅特卡夫&#xff08;Bob Metcalfe&#xff09;荣获2022年图灵奖&#xff0c;这一计算机科学的最高荣誉&#xff0c;表彰他为引领大众进入超级连接时代所做的贡献。 鲍勃梅特卡夫发明的以太…

图神经网络_03-基于图神经网络的节点表征学习

基于图神经网络的节点表征学习 图节点预测或边预测任务过程&#xff1a;使用图神经网络来生成节点表征&#xff0c;并通过基于监督学习的对图神经网络的训练&#xff0c;使得图神经网络学会产生高质量的节点表征。 高质量的节点表征能够用于衡量节点的相似性&#xff0c;同时高…

基于图神经网络的节点表征学习

节点表征 在图的节点预测或者边预测任务中, 需要先构造节点表征, 这一点尤为重要 节点的属性可以是类别型, 也可以是数值型 以下分别使用MLP, GCN, GAT, GraphSage来进行节点预测 1.获取并分析数据集、构建一个方法用于分析节点表征的分布2.使用MLP进行节点预测3.分别使用GCN,…

图网络算法——信息传递和节点分类

图网络算法——信息传递和节点分类 在开始介绍下面的算法问题之前&#xff0c;我们首先从提出一个问题&#xff0c;给定一个某些节点具有分类标签的网络结构&#xff0c;我们应该如何去预测网络中其他节点的标签呢&#xff1f; 这种节点分类的方式称为半监督的节点分类。 一、…

网络图结构中节点度分布的散点图

import matplotlib.pyplot as plt #导入科学绘图包 import networkx as nx Gnx.random_graphs.barabasi_albert_graph(1000,10)#生成n1000,m10的无标度的图 print ("某个节点的度:",G.degree(0))#返回某个节点的度 # print("所有节点的度:",G.degree())#返…

[图神经网络] 图节点Node表示---GAT

一. 概括 图神经网络已经成为深度学习领域最炽手可热的方向之一。本文提出Graph Attention Networks(GATs)&#xff0c;将注意力机制应用到图神经网络中&#xff0c;每一层学习节点每个邻居对其生成新特征的贡献度&#xff0c;按照贡献度大小对邻居特征进行聚合&#xff0c;以…

图灵 | 一站式图应用平台

点击「京东金融技术说」可快速关注 「引言」随着社会的日益发展&#xff0c;数据急剧增长&#xff0c;而数据背后的关系的挖掘的就显得更加重要&#xff0c;目前越来越多的人通过图技术去挖掘海量数据中的价值&#xff0c;却没有一个统一的平台&#xff0c;而【图灵】是为此而诞…

图神经网络基础--基于图神经网络的节点表征学习

图神经网络基础–基于图神经网络的节点表征学习 引言 在图节点预测或边预测任务中&#xff0c;首先需要生成节点表征&#xff08;Node Representation&#xff09;。我们使用图神经网络来生成节点表征&#xff0c;并通过基于监督学习的对图神经网络的训练&#xff0c;使得图神…

图神经网络(三):节点分类

节点分类问题 数据集&#xff1a;Cora 包含七类学术论文&#xff0c;论文与论文之间存在引用和被引用的关系 数据集导入 from torch_geometric.datasets import Planetoid from torch_geometric.transforms import NormalizeFeaturesdatasetPlanetoid(rootdataset,nameCora,…

基于图神经网络的节点表征

我们使用图神经网络来生成节点表征&#xff0c;并通过基于监督学习的对图神经网络的训练&#xff0c;使得图神经网络学会产生高质量的节点表征。高质量的节点表征能够用于衡量节点的相似性&#xff0c;同时高质量的节点表征也是准确分类节点的前提。 在节点预测任务中&#xf…

sg、xb分析

文章目录 流程分析远程调用本地调用分析结果 甚感欣慰&#xff0c;系统的写一下教程&#xff0c;希望能够帮助到大家。 流程分析 第一步&#xff0c;分析流程。 通过堆栈信息点到源码中并断点。 apply方法能劫持另外一个对象的方法&#xff0c;继承另外一个对象的属性 apply方…