依托开源技术,中国联通研发CU-DC/OS推进IT综合治理的实践

article/2025/11/7 21:00:43

背景:中国联通作为一个有IT历史背景的公司,和现今其他靠IT驱动的服务业公司一样有一定的历史包袱。由于整个IT系统渐进发展,产生了新老系统并存、资源分散、设备异构、软件环境异构等诸多问题。孤岛式的IT资源和IT能力服务制约了企业转型现代化服务业发展之路。随着云计算出现,一定程度上解决了资源孤岛、共享的问题,但是依然存在物理机资源调度的缺位,且现今虚拟机颗粒度的资源也收到了一定程度的挑战,从业务发展上来说今后的IT资源一定是物理、虚拟、容器(进程级)资源相互并存的。IT业务驱动的企业需要寻找一条IT向I3能力,即创新性、信息化、集成化的IT能力的IT综合治理转型之路。

近年来随着中国联通IT系统的大数据应用的不断上升,联通自身的IT资源在现在大数据应用发展的强大需求下面临极大压力。大数据中心3000余台服务器设备中有77%是纯物理机使用,传统的IT资源管理方式造成了物理集群之间无法共享资源,从而造成有限资源的浪费。联通IT系统集中化进程中,能力开放、服务能力供给侧不足也成为了随之而来的问题。所以,在联通资源共享、服务化、开放化层面,需要一个统一的解决方案。

CU-DCOS发展

因此在2016年4月启动了CU-DCOS项目,旨在解决联通IT治理和能力开放等问题。经过初期的技术方案设计,在验证了多种开源技术和商业化产品后,完成了技术路线的选择,确定了CU-DCOS的基础架构。2016年8月份启动了CU-DCOS平台开发,经过近 6个月的研发和测试,突破了关键技术43项,完成了9大功能、56小功能的门户开发,通过了技术测试和业务测试共59项。在2017年1月推出了CU-DCOS1.0平台。之后在多个业务系统尝试落地使用,并仍在持续进行产品化迭代研发。

现今,CU-DCOS平台已能够面向企业用户提供40余种服务能力,其中包括大数据、数据库、中间件以及技术、应用等服务,已能够面向开发运维流程提供DevOps服务。为中国联通公共创新大数据能力开放平台、中国联通PaaS平台以及中国联通牛人部落实验室提供架构支撑和资源优化,大幅提升IT资源应用效率。

图片描述

CU-DCOS能力平台利用其架构特质,对以下IT环节进行了优化:

  • 低运营成本:用户能够通过共享网络、存储、CPU内存等计算资源,在业务高峰期通过弹性扩容方式有效的应对业务峰值,在业务波谷期将资源分享给其他用户,有效的节约了成本。
  • 简化设备运维:在原有的IT体系中,研发团队既需要维护应用程序,同时还要维护基础设施。在CU-DCOS平台架构中,开发人员面对的将是第三方开发或自定义的API和URL,底层硬件对于开发人员透明化了,技术团队无需再关注运维工作,能够更加专注于应用系统开发。
  • 提升可维护性:微服务应用将调用多种平台的能力服务,组成最终的应用逻辑。目前,例如登陆鉴权服务,云数据库服务等,在安全性、可用性、性能方面都进行了大量优化,通过直接集成平台提供的服务,能够有效的降低开发成本,同时使得应用的运维过程变得更加清晰,有效的提升了应用的可维护性。
  • 更快的开发速度:创新项目由于人员与资金等问题,不可能每个产品线都同时进行,通过CU-DCOS平台,能够很快进行产品开发的速度,把工作重点放在业务实现上,把产品更快的推向市场。

CU-DCOS技术创新

CU-DCOS平台旨在通过新一代的云计算架构——容器技术,解决IT面临的实际问题,完成IT资源的集中管理的新一代平台系统。该平台不仅验证了以容器为基础的PaaS平台从模式、到技术的可行性,同时在行业内首次实现了面向大数据、物理资源弹性调度、多租户管理的“资源+数据+能力“的平台架构,在满足公司数据管控要求前提下,实现了大数据能力的开放。

  • 创新的独立式技术架构:使用Kubernets+Mesos+Docker 的架构模式,集成了该领域领先开源技术,发挥了每个开源模块的先天优势,相较单独开源软件更适用于联通生产业务。在有效管理容器化应用的同时,通过Mesos的框架资源调度功能,解决了物理资源完全按需共享的技术难题。
    图片描述

  • 自动化细粒度扩缩容管理:独创的根据资源使用率阈值自动触发和根据时间周期性触发的自动扩缩容能力,搭配业务量越大占资源越多、无业务不占资源的细粒度资源调度模式,将传统的物理节点业务部署方式转变为容器集群管理模式,根据业务需求“一键式”增减服务节点数量。

  • 资源的统一管理:面向中国联通“两地三中心”的跨地域、跨网络的物理节点,CU-DCOS平台可以实现统一管理调度,各应用能力“按需、按时”自动化资源分配,提高IT资源利用率,降低运营成本。
  • 创新的大数据服务:CU-DCOS团队为了满足对Hadoop生态体系需求,创新性的研发了基于Myriad的自动化多集群多租户的Hadoop框架。经测试性能稳定,支持多种Yarn生态软件如Hive、Spark等,并能够做到计算存储分离,本地计算,细颗粒度调度,资源预留、超售、抢占等计算资源的多元分配方案。
    图片描述

  • 持续集成/持续交付能力:CU-DCOS平台具有的DevOps能力支持快速迭代开发,从源代码到上线全部在系统内流转,当完成迭代上线时,业务应用已经封装为容器镜像并推送到私库,用户可实现不同版本应用的灰度发布,滚动升级。有效降低了业务割接和升级过程中出现的故障率,同时为服务供给侧提供了便捷的研发环境和供给通道。

  • 统一服务网关:以Gateway方式实现统一服务路由功能,针对不同的租户,实现服务能力化,需求差异化,针对不同需求,提供服务发现功能,让应用之间无缝实现业务上下游串联,真正的做到全流程自动化能力部署。同时优化了现有技术大大提高了服务发现和路由转送的流程,缩短了56%的有效响应时间。
    图片描述

  • 多实例持久化存储:CU-DCOS平台提供了多副本、高可用、可共享的分布式存储,为容器增加了持久化存储的能力,解决了容器长期以来有状态部分的问题。在保证数据安全的前提下实现了容器调度的自动化管理,优化了代码保证多个实例都能成功挂载并稳定运行。

落地应用

联通研究院的CU-DCOS平台面向企业内部,已服务支撑以下系统:

  • 支撑了中国联通公共创新大数据能力开放平台,为平台提供底层IT资源的整体调度、集群的动态扩缩容部署、大数据应用的容器化管理和编排以及统一的大数据服务开放等。实现了快速部署、秒级停启各类应用,支持多种大数据服务的集群部署、负载均衡、灾难恢复和弹性伸缩,为公共、专业、创新等各类应用的快速部署提供快速支撑。目前已成为公司开源技术与业务转型相结合的创新型示范项目,相比于传统的分配方式部署时间节省了80%以上,集群间资源利用率之差不超过10%,可靠性大幅度提升。

  • 支撑中国联通PaaS平台的基础架构,支撑整体PaaS平台的资源调度和整合以及容器化封装PaaS能力和编排调度等能力。目前已完成了全部15种PaaS能力的封装,可对外提供服务。PaaS平台上的数十个O域、M域应用已经完成CU-DCOS整体迁移,并且运行稳定。

  • 支撑中国联通牛人部落实验室的基础架构,目前已应用于百余台设备并利用CU-DCOS进行统一的部署和资源调度。实现了大规模集群资源的动态管理、灵活的资源控制策略和应用安装部署。成功搭建了开放式实验环境,满足中国联通IT实验室的需要。

CU-DCOS的投入应用,将以其创新的技术架构,全面支持中国联通实际管理、生产流程,并在中国联通首次实现以物理资源统一管理调度,各应用能力“按需、按时”分配资源,大幅提高IT资源利用率,降低运营成本。

来自开源、走向开源

CU-DCOS项目一路走来,其中的核心技术均来源于开源社区,这也是从技术选型阶段就定下的基调,基于开源技术获得更大成长空间。我们也本着来自开源、走向开源的宗旨,积极与多个开源社区互动,提交过多项提议、代码,在KubeCon和MesosCon进行演讲和演示,与Mesosphere深度合作。并建立了Github项目:https://github.com/chinaunicomRI/。CU-DCOS团队也积极为开源社区贡献一份力量。

作者简介
图片描述
张呈宇:硕士,中国联通研究院工程师,主要从事大数据、云计算IaaS、容器技术等方面的研发工作。
图片描述
魏进武:博士,副教授/高级工程师,现为中国联通研究院大数据研究中心主任。负责中国联通研发项目50余项。获省部级科技进步一等奖2项,发表学术论文40余篇,获专利20余项。从事的研究领域为大数据、云计算以及电信IT系统的设计及研发等。


全天候聚焦IaaS/PaaS/SaaS最新技术动态,深度挖掘技术大咖第一手实践,及时推送云行业重大新闻,一键关注,总览国内外云计算大势!
图片描述


http://chatgpt.dhexx.cn/article/2aKYFvax.shtml

相关文章

图像处理问题解决师——求取每个颗粒到其他颗粒边缘的最近距离

图像处理问题解决师——求取每个颗粒到其他颗粒边缘的最近距离 问题描述解决思路图片读入并去掉小噪声 bwareaopen()计算连通域边缘点 bwboundaries()双层for循环求解最近边缘可视化最后效果Matlab代码链接问题描述 需要解决的图像 此图像处理实际问题来自工程中遇到的实际问题…

Arduino通过RXTX联通JAVA实现数字温度计案例

相关项目已经上传到个人博客项目中,供学习使用 代码资源链接如下:https://download.csdn.net/download/qq_41662881/12917318 关键词 OLED显示RXTX、IIC通信数据库连接存储实时检测(1s/次)数据分析任意温湿度上下限报警Arduino u…

Lct系列小结

这个东西欠了很久了(博客也停了很久了) 这篇博文不负责讲解Lct的基础知识(太麻烦)所以有需要的同学可以看这里 PART 1 我们首先给一个模板 struct Splay{int F,s[2],rev;int val,sum;inline void NewNode(int fa,int x){Ffa; s[0]s[1]rev0;valsumx;…

国内骨干网互联互通格局巨变,中移动将与电信和联通免费对等互联

2月24日工信部发布《关于调整互联网骨干网网间结算政策的通知》(工信部信管[2020] 22号),要求中移动与中联通和中电信对等互联,互不结算;四家公益性网络免费互联;降低三大对中国广电、中信的结算费用。 22…

看傲腾配OpenCAS加速联通沃云业务

傲腾(Optane)是Intel在存储器方面的重量级产品。其采用3D Xpoint存储非易失介质来存储数据。3D Xpoint的一大特点就是时延更加接近SDRAM,而寿命方面大大高于NAND Flash,而容量密度则介于SDRAM和NAND Flash之间。这种特性决定了傲腾…

网红释一刀

释一刀,本名伍永骞,男,布依族。身高1米69,体重:58公斤。毕业于少林寺的一位俗家弟子。 1979年生于贵州。结婚夫人名叫周小艳,是中学的同班同学,比他小两岁半。 2010年,释一刀出差的一个晚上,在夜总会喝酒,巧看见老同学(周,女校花),便一见钟情爱上对方。两人交往一…

拼多多被曝确定五一放假三天,网友:“这也砍一刀?”

眼看着五一马上来临,即将喜提“五天”小长假的消息,让无数打工人欢呼雀跃。 然而,大家的快乐似乎并不相通。 有知情人士在脉脉上爆料,4 月 26 日晚上拼多多内部终于敲定了今年五一的放假时间,然而让员工们感到不尽人…

java 流水_Java之流水号生成器实现

开心一笑 搞笑.png 提出问题 如何使用jAVA生成流水号,同时支持可配置和高并发??? 解决问题 假设你们项目已经整合缓存技术 假如你有一定的Java基础 假如...... 下面的代码实现的是一个支持高并发,可配置,效率高的流水号生成器,…

哈希一刀流——布隆过滤器详解

目录 传统艺能😎背景🤔概念🤔误判控制😋具体实现😋插入😋查找😋删除😋优劣😋使用场景😋 传统艺能😎 小编是双非本科大二菜鸟不赘述,欢…

连米哈游都成了第二,这个一刀999的页游大王把老外吃透了。

自从《 原神 》在 2020 年上线之后,米哈游基本就稳坐出海收入第一的王座。 但是,稳坐榜首的米哈游,却在今年 10 月,被突然冒出的三七互娱一脚踢了下来。 没错,就是那个做出了《 大天使之剑 》、《 传奇霸业 》的页游大…

如何产生一个全局唯一的流水号(附demo)

本文介绍如何使用最简单的方法产生一个全局唯一的流水号,支持集群,性能可靠,并且经过实际的应用 唯一流水号的格式为当前系统时间当前服务器编号并发序列号,长度最短可为17位,每毫秒支持生成多个并且支持集群部署 废话…

记小辉人生中的第一刀

本篇是小辉趴在床上写完的博客,讲的是半个月前“肛裂肛瘘混合痔”手术到术后两周的康复过程以及一些注意事项和提示,给读者们的健康提个醒,欢迎转发给身边正在经历痛苦或者犹豫的朋友。 希望大家都身体健康,永远用不上我下面提到的…

砍一刀免费拿营销玩法解说

大家应该都收到拼多多的砍价链接,小来对拼多多这种扰民是推广方式非常反感,但不得不承认,这个营销方式却是拼多多最有效的营销方式之一。 拼多多最新的财报显示,拼多多2020年活跃买家数为7.884亿,首度超越阿里位居全国…

【leetCode:剑指 Offer】06. 从尾到头打印链表

1.题目描述 输入一个链表的头节点,从尾到头反过来返回每个节点的值(用数组返回)。 2.算法分析 倒序输出,使用栈Stack的数据结构。 先将链表中的元素入栈,然后遍历栈内元素,将元素加入到数组中。 3.代码实现…

流水

这几天怎么过去的 在纸上画一笔 就这么轻松 没和任何人联系 似乎很忙 总是在上课上课上课 从这个教室到那个教室 从这个实验室到那个实验室 嗜睡得厉害 心里很空 很久没有S的消息 有点冷

R语言--readr包读写数据

文章目录 前言一、发现问题二、分析问题三、解决问题四、读写速度总结吐槽 前言 当你使出了浑身解数,read.csv和read.table还是无法读入数据时,或许可以尝试一下readr包中的read_table,read_csv等函数。尝试一下! 我是一个很专一…

R语言入门:读取csv文件及获取统计数值(1)

本次编程尝试使用R语言读取csv文件“filesize.csv”,并根据内容绘制统计图和得出平均数,中位数和方差等简单数据。 csv文件内容1001个数值至少大于1000的小数组成,每行一个,共计1001行 在打开文件之前,我们可能会遇到…

R语言 读取文件

1. R读取txt文件 使用R读取txt文件直接使用read.table()方法进行读取即可,不需要加载额外的包。 read.table("/home/slave/test.txt",headerT,na.strings c("NA"))注意,此处的na.strings c("NA") 的意思是文件中的缺失数…

R从文件中读取数据,输出文件

看了几天的书,终于到这一步了,说实话,用R来做统计,很少有人手动的去输入那些数字,肯定是从别的地方导入的,我们用来处理就可以了,所以到这里才算是真正的入门,前面都是做基础的练手。…