大数据之实践案例分析

article/2025/11/8 7:25:55

前言

公司由页游转手游,公司的数据分析需要针对手游进行设计,所以原来的那一套针对页游的数据分析框架就显得不是很合适了,一方面在于手游和页游一些业务逻辑上的不同,另外一方面是数据量级上的改变,以及渠道、区服之间的联系、以及手游BI系统的渠道区服交叉查询。使得原本从4399游戏那一套针对页游而来的框架就显得有些吃力。这里分析的就是页游到手游这个过程中,针对大数据分析所做的调整工作,以及在此之间的分析案例。

页游合作场景

页游阶段,如果一款页游准备推上某个平台,那么需要与该平台进行对接,在该平台上进行考试,达到一定分数,平台才可以提供资源进行上线扩服。那么如果想上另外一个平台,那么需要跟另外一个平台进行相同的流程。目前页游公司与平台方的合作方式大部分如此。那么其实游戏,平台与区服就都是一一对应的,一个平台可开设多个区服,且一个区服只属于一个平台(跟手游不一样)。

页游数据采集分析过程

公司随着游戏开服,需要查看游戏的数分析,比如说留存流失情况,付费情况,活跃用户情况,崩溃情况等等,这就是很多BI系统中的一个子系统(数据分析系统:用于用户行为分析、产品质量监控、活动参与度统计等等)。那么这一流程大致如下图:
大数据之实践案例分析

分析:
1.平台与平台之间的数据是隔离的
2.在使用ETL处理项目组数据时保持原来的游戏平台-区服分库,如果针对一些特殊的表,可以进行拉取汇总表,比如说login表,付费表。
3.编写统计脚本,放到Linux定时任务中,统计结果放到结果库,结果库按照平台分库。
4.根据BI系统数据分析从结果库中的统计结果,展示相关指标数据的图表。
5.这个过程中会有少量实时数据的分析需求,这个就需要在BI系统中直接去连接项目组数或者通过短时间定时任务进行拉取到结果库。

手游数据采集分析过程

手游阶段,如果一款游戏需要再某一渠道上线,那么需要跟渠道商进行合作,IOS和安卓就是平台,并且同一平台下的不同渠道的游戏数据可以写到同一个区服里,也就是说渠道与区服是多对多的关系。那么跟页游情况相比较就有不一样了,一个服里的数据可能来自多个渠道,一个渠道的数据被分在多个区服里。大致分析流程如下:
大数据之实践案例分析

分析:
1.渠道与服直接是多对多的关系
2.etl拉取清洗时依然根据渠道-区服进行分库
3.编写统计脚本,统计结果保存到结果库,一个游戏只有一个结果库(包含所有渠道,所有区服)
4.因为只有一个结果库,所以需要考虑分表,避免单表过大查询慢。分析如下:
假设50个渠道,100个区服,单表维度不超过5个,根据经验估算[10W-15W]/天增量,那么按照季度进行分表,每个子表数据量在900W到1350W之间,另外针对一些记录相对活跃的统计表,可能需要按月分表或者更细。总而言之就是尽可能的减少单个表的大小,但是这个会带来一个问题就是在BI系统中如何进行查询、分页呀等等问题,不过这个问题已经有相应的组件帮我们完成,比如说:阿里的mycat、当当网的Sharding-JDBC,我计划使用Sharding-JDBC,因为mycat针对查询、分页我感觉有点重了。如果你们也需要使用类似的功能,请结合自己需要选择即可。

转载于:https://blog.51cto.com/4837471/2310728


http://chatgpt.dhexx.cn/article/oLk496Qv.shtml

相关文章

大数据分析案例-基于朴素贝叶斯算法构建电信客户流失分析预警模型

🤵‍♂️ 个人主页:艾派森的个人主页 ✍🏻作者简介:Python学习者 🐋 希望大家多多支持,我们一起进步!😄 如果文章对你有帮助的话, 欢迎评论 💬点赞&#x1f4…

Python+大数据-数据分析与处理(六)-综合案例

Python大数据-数据分析与处理(六)-综合案例 案例一:Appstore数据分析 学习目标 掌握描述性数据分析流程 能够使用pandas、seaborn进行数据分析和可视化 1.案例介绍 案例背景: 对 App 下载和评分数据分析,帮助 App 开发者获取和留存用户…

大数据挖掘分析的经典案例,主要有哪几种?

大数据挖掘分析经典案例有以下几种: 1.预测产品未来一段时间用户是否会流失,流失情况怎么样; 2.公司做了某个促销活动,预估活动效果怎么样,用户接受度如何; 3.评估用户信用度好坏; 4.对现有…

第11章综合案例2影评大数据分析

第11章综合案例2影评大数据分析 实验目的及要求 (1)现有电影、影评和用户信息3个数据文件,将对其进行大数据分析。 实验系统环境及版本 Linux Ubuntu 20.04 JDK1.8 Hadoop3.1.0 MySQL8.0.28 Hive3.1.2 实验任务 评分次数最多的10部电…

淘宝大数据分析案例

项目介绍 本次结合的是一份淘宝大数据数据,数据集的大小共177MB,数据一共有3182261份(三百多万份数据集),一般的软件是无法计算和分析的,比如Excel,MySQL,Python这些都无法较好的完…

数据分析综合案例

数据分析综合案例: 数据分析流程 什么是数据清洗? 简单来说,数据清洗就是把“脏数据”变为“干净的数据”。数据清洗虽然很繁琐,但也很重要。数据清洗流程: 数据的读写、数据的探索与描述、数据简单处理、重复值的处…

磁力搜索网站+下载神器放送2019-03-05

先介绍下背景,因为喜欢看的电影因为版权问题,不能用迅雷及百度云离线下载.今天找了好久,终于发现了一个好用的解决方案. 先介绍常用的磁力搜索网站: 搜索网 https://btsow.pw/tags https://cn.torrentkitty.tv https://www.ciliurl.com/ http://www.zhizhuc.com/ https://www.a…

几款磁力搜索引擎,找资料更方便

Bt177.info 一款强大的磁力搜索引擎网站,这款网站包含有7万多个磁力链接,提供提供网盘形式和磁力形式的储存,有很多你想要的东西。如果是音频和视频的话支持在线观看。 Bt977 磁力搜索引擎,支持网盘播放,磁力下载。 To…

搜索下载神器

前言 新闪存云app是一款功能非常强大的云盘软件,为用户提供了非常给力资源搜索功能,支持多种下载方式,让你在这里体验全网最快速的资源下载,多种格式的文件以及视频也都可以在这里进行下载并进行解析,操作十分的简单&a…

基于python的种子搜索网站,你懂得!

该项目是基于python的web类库django开发的一套web网站,给师弟做的毕业设计。本人的研究方向是一项关于搜索的研究项目。在该项目中,笔者开发了一个简单版的搜索网站,实现了对数据库数据的检索和更新。通过开发该项目,笔者学习和巩…

android下载工具 磁力,【安卓+iOS】磁力搜索+下载工具

【安卓iOS】磁力搜索下载工具 2020-03-29 19:46:20 3点赞 16收藏 2评论 1、比特舟Pro(安卓) 比特舟Pro是一款磁力搜索工具,支持BT和磁力搜索。前身是比特羊,后来改名比特知了,现在又一此改名。名字虽然变了,功能还是一样。 想搜什…

Ubuntu 能直接搜 BT 种子了

Ubuntu的Dash搜索工具允许用户搜索本地和在线资源如亚马逊和维基百科上的内容。现在,一位第三方开发者为Dash搜索工具加入了BT搜索功能,允许用户搜索海盗湾上的torrent文件。这项功能获得了 Canonical 创始人Mark Shuttleworth的支持。 Canonical表示&am…

利用Python爬虫建立自己的磁力搜索引擎

现在磁力站很多,但是搜出来的东西乱七八糟的,广告也多,我看多了觉得挺烦的,正好周末无聊,想着自己做一个,下面附上本次利用Python爬虫磁力站点的教程。 下面是我写爬虫时候主要引用的库 当然,抓取的关键词可以自己从代码里设置,比如title,文件大小之类的。 但我怎么知…

TT盒子种子搜索神器

2、软件名称:tt盒子种子搜索神器 3、软件版本:V1.5 4、软件大小:2.31MB 5、软件作者及网址:TT盒子 网站:www.tthezi.com 6、软件类别:搜索引擎 7、软件语言:简体中文 8、软件授权:免…

想做个磁力链搜索引擎 3

上一篇中,我们已经实现了对tracker的访问,从而获取到了peer对等体的ip地址以及端口号。我们这一篇要实现的是对等体之间的通讯。 在bt种子下载中,对等体就是正在下载你需要文件的另一台主机或提供下载你需要文件的主机。每一个种子一开始都是…

[搜片神器]直接从DHT网络下载BT种子的方法

转自:http://www.cnblogs.com/miao31/p/3332819.html DHT抓取程序开源地址:https://github.com/h31h31/H31DHTDEMO 数据处理程序开源地址:https://github.com/h31h31/H31DHTMgr DHT系列文章: 1.[搜片神器] 之P2P中DHT网络爬虫原理 2.[搜片神器]之DHT网络爬虫的代码实现方法…

P2P下载器-P2P种子搜索器

P2P种子搜索器(p2psearcher)是一款集种子搜索器和在线云点播于一身的实用工具,基于先进的P2P搜索技术,可在瞬间搜遍全球ED2k网络资源。p2psearcher搜到的视频资源可以直接在右侧的云点播播放页面试播预览,并且提供高品质观影效果。需要的朋友…

这才是CSDN最系统的网络安全学习路线(建议收藏)

01 什么是网络安全 网络安全可以基于攻击和防御视角来分类,我们经常听到的 “红队”、“渗透测试” 等就是研究攻击技术,而“蓝队”、“安全运营”、“安全运维”则研究防御技术。 无论网络、Web、移动、桌面、云等哪个领域,都有攻与防两面…

网络安全学习资源分享

提高技能 网络安全学习资源汇总 项目描述OWASP安全的牧羊人(https://security-shepherd.ctf365.com/login.jsp)作为11/6破ctflearn(https://ctflearn.com/)基于CTF网站账户,用户可以在解决一系列挑战ctfs写-不间断电…

网络安全学习路线,入门到入坟,史上最全网络安全学习路线整理

很多小伙伴在网上搜索网络安全时,会出来网络安全工程师这样一个职位,它的范围很广,只要是与网络安全挂钩的技术人员都算网络安全工程师,一些小伙伴就有疑问了,网络安全现在真的很火吗? 那么寒哥就带大家看…