【案例】基于星环科技数据云平台TDC为富国基金建设万能的数据湖

article/2025/9/24 9:01:32

星环科技作为企业级大数据基础软件开发商,通过发挥基础软件硬实力已经成功助力金融、政府、能源、交通、制造业等多个行业的客户实现了数字化转型,积累了丰富的成功经验。【行业案例】旨在定期分享星环科技最新案例成果,为各行各业企业数字化转型提供参考和决策依据。

本篇将介绍星环科技如何基于数据云平台TDC为富国基金建设万能的数据湖,助力其实现数据统一与共享交换。

案例背景

富国基金管理有限公司成立于1999年,是中国老10家基金公司之一。2003年,加拿大历史最悠久的银行——加拿大蒙特利尔银行(BMO)参股富国基金,富国基金管理有限公司又成为国内首批成立的十家基金公司中第一家外资参股的基金管理公司。截止到目前为止,富国基金全产品的资产规模超过了 12,000 亿,这个规模还在不断增长。基金公司从某种意义上也是数据公司。采集数据、加工数据、应用数据,最终做出业务决策是基金公司在运作中典型的工作过程。在这个过程中,数据从信息转化为价值的能力决定了公司的竞争力,它取决于数据采集、处理、应用效率、准确性、以及信息的服务方式。当行业的超额收益缩小了以后,信息优势就决定了基金产品收益的稳健性、风险控制能力与客户服务质量。随着行业的发展,投资品种的多元化,资产规模的上升,基金产品成为机构与个人投资的重要工具,来自外部监管等方面有关数据质量、数据安全、综合数据治理水平的要求也日渐提升;同时,富国基金作为行业的头部公司、系统性金融单位,更需要特别在数据治理、数据安全、数据质量等方面建立较好的保障与管控机制。然而,富国基金原来单一的数据仓库平台架构开始面临诸多挑战:

  • 不支持实时数据处理:实时风控大屏、实时直销申赎统计、画像及精准营销、实时估值等业务需求日益迫切,结合富国基金IT整体规划要求,富国基金应适时构建实时数据处理能力。
  • 数据仓库平台存储昂贵:解决海量数据的存储问题,根据数据价值高低、数据的冷热不同,存储到不同的平台介质上。
  • 不支持半结构、非结构化数据处理:基金公司各类研报、公告、舆情等外部资讯数据对公司的决策同样至关重要,而该类数据很多是半结构、非结构化的存储格式。
  • 数据孤岛问题:不同团队各自建设,数据没有打通;同一份数据在多个业务系统内保存;缺少统一标准,难以进行数据管控和质量提升。
  • 不支持云原生部署:现有数据仓库平台 Vertica 构建在分布式数据库上,基于物理服务器部署,弹性不足。

解决方案

针对富国基金面临的挑战和现状,基于星环科技数据云平台 Transwarp Data Cloud 为富国基金提供了一站式数据湖解决方案。

基于星环科技数据云平台 Transwarp Data Cloud(以下简称TDC)、星环大数据开发工具 Transwarp Data Studio (以下简称TDS)、星环智能分析工具 Sophon 等产品的数据湖解决方案,能够一站式解决企业从建湖到管湖全部过程,为富国基金管理和决策提供数据基础与分析能力保障,提升富国基金的竞争力。

作为富国基金数据湖云底座的数据云平台 TDC ,基于云原生技术构建,具备极致的弹性能力,并且融合了数据 PaaS、分析PaaS、应用 PaaS,实现数据、应用、模型的互联互通,打破富国基金不同业务系统的数据孤岛。

在数据治理、元数据、数据质量、数据资源目录等能力上,星环科技提供了集开发与治理为一体的一站式工具平台 TDS,提供了数据开发、数据集成、数据管控、数据商城和数据服务等能力。TDS 的子产品涵盖了:数据库开发工具Waterdrop、数据库在线开发与协同工具 SQLBook、大数据整合工具Transporter、任务调度软件 Workflow、可视化报表分析软件 Pilot 、数据服务开发与管理工具 Midgard以及数据资产目录软件 Catalog、数据治理工具 Governor、数据安全防护工具Transwarp Defensor、数据商城 Transwarp Foresight、数据服务开发与管理工具 Midgard 和标签管理平台StarViewer。可以帮助富国基金形成标准的数据资产管理规范、构建统一的数据加工、共享能力,形成数据资产。

Sophon 是一款包含数据分析与机器学习建模的一系列智能分析工具软件,能够一体化地完成从数据集成、模型构建、知识推理、辅助决策,支撑业务的数据分析、探索、服务流程,从而可以帮助开发者将智能化落地到企业应用中,帮助企业进行以数据驱动为核心的开发、运营和产业升级。Sophon主要覆盖数据分析中的计算智能、感知智能、认知智能等三个主要方向。Sophon的技术特点是采用分布式计算模式,可以进行结构化、半结构化和非结构化三种不同类型的数据的接入、处理、分析与模型发布及管理工作。在富国基金项目上,可以用于搭建联合创新实验室,通过引入人工智能、数据挖掘技术来提升数据价值能力。

建设成效

通过 TDC 的多租户能力

实现富国基金数据的统一与共享交换

TDC通过建立富国基金统一的数据湖租户空间,统一归集富国基金内部各业务系统的数据,实现了富国基金数据的高效治理和管控。

TDC 数据湖可轻松实现数据在不同应用(租户)之间的共享,后续新增租户可直接使用统一数据湖共享的数据, 租户共享集群中的某些节点,这些节点能被所有基于TDC创建的租户调度。

TDC 上可按需创建租户,租户间资源隔离、数据隔离、业务隔离,不同租户按需部署不同的应用。同时,TDC支持将不同租户设置互信,相互之间共享组件和数据。租户之间计算资源可动态共享,租户2空闲时,租户1可使用客户的全部服务器的计算资源,提供计算性能和查询效率。租户可将自身组件共享出去,在TDC数据云内与其它共享。租户组件的共享可减少组件部署成本。通过租户共享,辅助权限管控,实现租户之间数据的共享。基于 TDC 帮助富国基金构建的企业级数据 PaaS 平台可以实现以下功能:

★ 统一富国基金的数据PaaS,大数据业务全部基于TDC 赋能

★ 数据 PaaS 平台支持开源组件、中间件的扩展

★ 实现多租户场景下多云融合

★ 提高了资源利用率,按需创建租户,租户资源互相给

★ 业务隔离,不同租户按需部署大数据产品实例

★ 应用和数据统一部署

★ 应用和数据逐步互通、融合

★ 基于私有云平台建设数据湖、Hyberbase容灾场景

★ 统一的数据湖空间,高效管理企业数据

★ 通过共享组件辅以权限控制,实现数据的按需共享和交换

★ 通过多租户数据湖进行统一的数据申请下发

最终成果

  • 已完成构建集数据吞、吐、存、算于一体 的TDC数据湖第一阶段建设,实现包括离线批处理、数据分析、实时流处理等基础能力。
  • 建设基于TDC的数据湖,实现多源数据归集,具备丰富的数据获取能力,实现数据在不同租户间的管理和共享,解决历史数据存储及数据孤岛问题。

正在探索的能力

  • 不断优化完善基于 TDC 帮助富国基金构建的企业级数据 PaaS 平台,充分发挥大数据平台性能与场景优势,同时辅以数据资产管理及数据检核,助力富国基金数据质量整体提升,实现数据资产化并赋能业务应用。
  • 搭建全生命周期的数据资产管理平台最终实现数据统一存储、统一资产管理、统一数据服务、统一安全管理及运维,在提升数据资产管理能力的同时,满足各应用系统多样化需求。
  • 量化投研,基于星环时序数据库的产品能力以及多年来对于分布式计算的深刻理解,帮助富国基金提升智能量化投研能力。

未来规划

  • 在完善数据管理能力的基础上,帮助富国基金构建数据科学平台,实现反洗钱、舆情监控、智能选基等人工智能场景。


http://chatgpt.dhexx.cn/article/nZLJZ5Ku.shtml

相关文章

【观察】星环科技重构数据云平台,持续释放数据红利和价值

申耀的科技观察 读懂科技,赢取未来! 众所周知,如今的世界正在以加速度进入到智能时代,特别是随着各项业务的云化深入以及万物互联,数据处理能力的进一步提升,智能算法一次又一次的突破,以及云计…

基于MQTT的工业物联网数据云平台

-快速开发工业4.0和物联网应用系统的MQTT数据云平台 【应用背景】 伴随世界范围内“工业4.0”革命及“再工业化”战略的兴起,结合“中国制造2025”及“两化融合”战略,新一代信息技术与制造业深度融合,正在引发影响深远的产业变革&#xff…

云平台知识简介

一. 云平台定义 “云是将服务器虚拟化,形成虚拟资源池,相比于以前的物理机更加节省资源成本,便于管理。云是计算、存储、网路资源池化的概念。我们每天使用的搜索引擎、邮箱、网盘,就是很标准的云,而这大多都是免费的…

自然环境资源数据集分享——资源环境数据云平台

由于工作需要,最近我在搜集自然环境下的公开文字图片数据集。在网页搜索时,偶然发现一个关于资源环境方向的数据平台,也就是今天要说的资源环境数据云平台。平台是由中国科学院地理科学与资源研究所和中国科学院资源环境科学数据中心一起运营…

新一代云数据平台架构演进之路

导读 本文是由浙江数新网络有限公司为我们带来的《新一代云数据平台架构演进之路》的技术分享。 本次分享分为四个部分: 1. 大数据发展回顾 2. 云数据平台演进趋势 3. 云数据平台技术架构 4. 云数据平台实践案例 分享嘉宾|原攀峰 数新网络 CTO 编辑整理&…

聊聊云原生数据平台

本文作者:字节,观远数据首席科学家。主导多个AI项目在世界500强的应用落地,多次斩获智能零售方向Hackathon冠军。曾就职于微策略,阿里云,拥有十多年的行业经验。 在之前的文章中,我们介绍过云原生机器学习平…

第四代数据平台技术:数据云平台

当前社会已经进入一个企业数据高速膨胀的时代,近几年,每年全球的数据规模平均以40%的速度增长。在云计算、大数据技术并驾齐驱发展几年后,两个技术逐渐融合,数据平台的技术在云计算的助力下,能够支持更复杂的业务发展需…

斯人已逝,精神犹存——纪念知名技术博客作者雷霄骅同学

今天在视频技术交流群里赫然听到一则让人无比震惊的消息,近些年一直活跃在视频开发领域的中国传媒大学在读博士研究生雷霄骅同学,因劳累过度在学校猝死。直到多家权威媒体证实之前,我们都一直不敢相信这消息的真实性。雷博士在音视频领域已经…

悼念博客专家雷霄骅七律诗一首

【引言】 今日凌晨,小虎看罢CSDN博客管理员的文章《叹息!悼念CSDN博客专家雷霄骅》, 感概世事无常,生命可贵,身体健康重要。 雷霄骅,中国传媒大学通信与信息系统专业的博士,青年才俊。 雷霄骅&a…

雷霄骅开源视音频项目汇总

from: http://blog.csdn.net/leixiaohua1020/article/details/42658139# 作者:雷霄骅, 一个值得怀念的人 本文汇总一下自己视音频编解码学习方面的开源项目。这些开源项目大体上可以分成专业领域程序,FFmpeg示例程序,FFmpeg移植程…

永远感谢雷神-雷霄骅!

致雷神: 谢谢你引我进入视音频的大门! 一路走好, 天堂好好休息! 20160804 、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、、 姓名:雷霄骅 网名:leixiaohua1020 本…

【视频音频】雷霄骅开源视音频项目汇总

from: http://blog.csdn.net/leixiaohua1020/article/details/42658139# 作者:雷霄骅, 一个值得怀念的人 本文汇总一下自己视音频编解码学习方面的开源项目。这些开源项目大体上可以分成专业领域程序,FFmpeg示例程序,FFmpeg移植程…

雷霄骅---巨星陨落

今天 18:55 来自 人民日报微博 【中传25岁博士凌晨猝死教学楼,家属疑因过劳】中国传媒大学25岁博士雷霄骅,被发现猝死在学校主楼:16日晚9点多进实验室,凌晨3时倒在电梯口,早7时许被发现。家属称,事发前他一…

中传博士雷霄骅,致敬雷神,永远感谢雷神

在中国传媒大学通信与信息系统专业攻读博士的雷霄骅,今年10月就将迎来自己26岁的生日,但7月17日凌晨他猝死在学校主楼五层,当天早上7时许被保洁人员发现。 据法制晚报(微信ID:fzwb_52165216)记者了解,其家属称&#xf…

关于雷霄骅博士的博客FFMPEG+SDL的音频播放器播放有杂音的问题

博主在这里怀着对雷霄骅最高的敬意修复了雷神的一点点bug。 雷神的以下博客,在播放时会造成卡顿。 最简单的基于FFmpeg的音频播放器系列文章列表: 《最简单的基于FFMPEGSDL的音频播放器》 ———————————————— 版权声明:本文为…

沉痛悼念CSDN博主、年仅26岁的音视频专家雷霄骅

CSDN的老朋友、连续两届CSDN博客之星、微软MVP、博客排名52位、在中国传媒大学通信与信息系统专业攻读博士的雷霄骅,于2016年7月17日凌晨猝死在学校主楼五层,并于7月23号安葬。据相关报道称,事发前雷霄骅一直泡在实验室忙碌,怀疑其是劳累过度导致猝死。(详见法制晚报的报道…

纪念音视频界前辈-雷霄骅

这是一篇记录文,纪念一位在音视频领域研究的博士雷霄骅。 雷霄骅生前是中国传媒大学通信与信息系统博士在读生,于2016年7月17日凌晨猝死在学校主楼五层,10月就将迎来自己26岁的生日。 雷霄骅在音视频领域有很深的造诣和贡献,指导了…

雷霄骅系列博客汇总

这两天快速浏览了一下雷霄骅的博客,相信看过他博客的人内心都是无比钦佩,说句天妒英才确不为过,可能雷神说过最多的话大概就是,...没有我想要的,打开源代码... 真的是厉害。雷神不仅分享了自己的学习经历,里…

分享一个免费分流抢票软件!一键全自动抢票

感谢您抽出 .. 阅读本文 小伙伴们注意:公众号的推送机制不再按照时间前后推送了,微信公众号信息流乱序。君哥建议大家把科技毒瘤君公众号置顶(设为星标⭐),以便第一时间看到推送,非常感谢~,方法…

抢火车票,出行必备程序(12306bypass)--可以抛掉同程什么的抢票软件了

一. 免费原则 分流抢票(12306Bypass)的发布和使用均不收取任何费用。拒绝任何人或任何实体进行出售,严禁用于商业谋利用途; 二. 无害原则 任何人不得使用分流抢票(12306Bypass)进行加价代购、倒票等任何与…