程序员的三体世界 小说|从千万级架构到大数据人工智能中台的讨论

article/2025/11/10 20:38:05

程序员的三体世界

从千万级架构到大数据人工智能中台的讨论

目录

程序员的三体世界

序言

第一节 面试

第二节 大数据已标准化,人工智能还是人工智障

第三节 中台

旁白


序言

当你真正的明白程序员是什么,你们还引以为傲吗,你们还想入门吗?

第一节 面试

王秒第一次当面试官,他的理想是成为一名出色的架构师。他从很早就开始使用各种语言做程序员了,他可以说是最早的一代全栈,他能用N种语言写不用版本的hello world。他也一直在研究软件服务架构,朝着所谓的宏观架构去努力。这次面试他提前查看了面试者的资料,是一个刚刚工作不久的小伙子。王秒不想为难那人,面试本来就是相互交流的过程的,他准备了一些在生产过程中遇到的问题打算一起交流讨论,也看看那个人的脑筋思路。他刚走近会议室,就听到那个人正和另一位面试官侃侃而谈。

“你们怎么做到一个秒杀服务的高性能高并发高可用?”。

“我们使用Redis做缓存做数据预热,然后再用LVS加个网关加个Nginx集群 KeepAlived。然后我们使用springboot做个微服务,springcloud全家桶管理。然后服务间再做个异步化,异步化引入RocketMQ,然后保证RocketMQ 的一致性,在本地写一套事务表,和本地事务夹杂在一起,然后RocketMQ有个回调机制,用回调机制保证两边的幂等性”。

“那你们怎么做Redis间的高可用?”

 “redis高可用,有redis sentinel 和 redis cluster的,我们现在用redis cluster,redis cluster 是怎么做hash分片的,crc16嘛,循环校验码,然后做一个hash,虚拟hash环,解决分布不均匀的问题”。

“你们的发布部署怎么做的?”

“部署嘛,我们引入CICD,首先我们代码放在gitlab集群,代码从gitlab里面拉下来,然后通过Jenkins,做一键部署,打包镜像,写dockerfile,然后打包发布到hub包,最金丝雀发布或蓝绿发布,然后蓝绿发布之后再做的滚动升级”

服务发布流程

… ...

“一言不合Redis,上来就是微服务”这还能有错,面经上都是这么教的,没去过大厂但肯定是这么做的了。没有问到我算法,算了,分治法,动态规划法,回溯法,分支界限法,贪心法,LeetCode我也都刷过了”面试的小伙子得意的离开了。

王秒最终没有参加面试,他没有打断这个面试者,这个小伙子说的一点毛病都没有,但是又总感觉哪哪都不对,他陷入了沉思。按照这个逻辑,所有的架构都已经可以清晰的做标准化了,一切都已经设定好了,不需要再有人去创造了,程序员只需要搬砖就可以了,架构师也只是空谈了。

王秒仔细想了一下小伙子刚刚的表现,内心更加细致的描述了一下现在的所谓千万级亿级流量系统的模板,“无非nginx,keepalived,或先搭一个lvs,lvs上面搭一个DNS轮训,轮训再打到不同的nginx,nginx最后再打到网关。之后网关上一层要在进入一个ip清洗层;网关打过来有eureka,再加个限流,可以用 hystrix或sentinel。然后服务间用feign,在从eureka中拿过来,再用ribbon做负载调用。后面应该是一个服务集群,集群上面每一个服务再用skywalking,知道服务做了什么,然后再用sentinel或hystrix做短路保护和限流。然后有eureka做了一个注册中心,能够支持一个多机化集群调用;后面再加一个配置中心,可以动态修改spring里面的内容,把服务放到k8s里面跑。最后面在加一个mysql + ha 的集群,再加一个mongo 集群,再加个es集群,redis -cluster集群。缓存一致性加个rocketmq,再做个异步更新;”

... ...
微服务架构图

第二节 大数据已标准化,人工智能还是人工智障

按照一切都是标准化的逻辑,王秒仔细梳理了一下其他的架构,发现一切都是那么可怕。

  • 大数据的核心

大数据早已经不是几年前摸索的阶段,一切早是标准了。大数据中最标准的架构,输入-输出-任务中心-调度中心。Hadoop、flink、spark,这三个之后storm还可以做流处理,数据存储用dfs,自带的flink,也可以用Hadoop,Hadoop用yarn还是用MapReduce,在来个hive...

   

  • 人工智能 人工智障

目前比较神秘的还是人工智能,研究也有一段时间了。这难道不是标准吗,或是一些人正让他在趋向标准。TensorFlow,写个python,然后调神经网络,然后调调参,然后神经网络里面的参数微调,出来一个递归,出来一个线性回归法,然后看看数据拟合了,好像是人工智能了。这到底是人工智能还是人工智障?

第三节 中台

 王秒最近在探索中台的意义,好多公司也都在搞中台。到底什么是中台,该不该搞中台,搞中台必死,中台已死吗?会不会也是一个标准化了。搞中台真的有意义吗?他又想了很多。

很多人也都很明白,先想清楚我们的商业模式是什么,抽象和提炼出我们的企业的最佳实践,然后在复用,这是中台的精髓,从“去重”到“复用”,从“治理”到赋能,从“技术视角驱动”到“业务价值驱动”。中台应该是企业级“业务模式”复用平台。

 但是话好多事难做,困难就在于所谓的“业务模式”,业务的共性,很容易被感知,确很难被界定。

中台是在国内阿里率先提出的,“大中台小前台”,中台就像大炮,前台就像步兵,这可以火力灵活的覆盖到敌人任何阵地角落。阿里真正的拥有亿级流量千亿级流量,很多业务的共性确实可以让其快速的包装另一层身份。但是这样的企业国内甚至全球有几家,一般的中小型企业平时连个蚊子都碰不上,用的着架设火箭炮吗?也是确实有不少公司,宣称自己做成了中台,也有数据中台,业务中台,但是你们确定那是中台而不是一个灶台?

阿里有其他企业无法比拟的规模,所以其自然发展必有演变,我们可以借鉴他如下的双中台设计提升思路,而不是完全仿造。让数据业务化,业务数据化,从而提升智能时代的效率。但是这真的适合我们所有人吗?

当互联网兴起,大流量进入,所有人都在跟风分布式微服务,好好的一个单体,拆分的七零八落,1个人的事让10个人去做。当中台提出,一个接一个微服务全叫中台。到最后美其名根据康威定律又要拆分组织,一个服务无奈被分到N个组织,这时候根据人的惰性就开始推脱扯皮,1天完成的事就又得让项目经理帮着协调到100天才完成。最后呢,这个中台架构师又出来了,又不好意思拉黑中台打自己的脸,这样吧,前端应该机动灵活,应该一定程度自己控制数据,NodeJs加MongoDB嘛。恩完美,我们应该发展全栈工程师。

(旁白)

当神秘的架构摊开一切摆在眼前,你的内心充满恐惧吗,在路上的小朋友或是已死不死的老鸟,技术的本质是什么?程序员、架构师一切都是虚幻的,只是更便宜的机器的替代品吗?

或许unix中还保持着最初的那份纯净。

 

 


http://chatgpt.dhexx.cn/article/42dW3O5x.shtml

相关文章

股票交易接口软件服务涵盖范围有哪些?

通常所说的股票交易接口软件是指量化交易程序员们可以自行查询各大交易网站或交易所的股票历史数据及行情数据的工具,如:实时报价;走势图;价差图;基金、债券、期货、外汇、保险等各类金融数据查询等,进行数…

国外高校解除ChatGPT禁令,对留学生是福是祸?

ChatGPT发布近1年,各大高校对它的态度也发生了极大转变,今年3月发布ChatGPT禁令的牛剑等世界顶级名校也在近期解除了ChatGPT禁令,发布了生成式人工智能使用指南。 ChatGPT一定程度上可以解放科研人员的劳动力,与其直接禁止不如教…

计算机专业留学生回国找工作容易吗,留学生归国后一般都找什么工作?

对于留学生归国找工作的人来讲,找工作似乎已经成为困扰他们的难题。毕竟现在国内市场中,优秀的工作岗位竞争一直很大,这些留学生们要找什么样的工作,以及在找工作之时会遇到什么难处呢?针对这两点,BOSS直聘…

Ubuntu输入密码登陆不了仍跳回到登录界面

现象:在Ubuntu登陆界面输入密码之后,黑屏一闪并且出现了check battery state之类的文字之后,又跳转到登录界面。 原因:主目录下的.Xauthority文件拥有者变成了root,从而以用户登陆的时候无法都取.Xauthority文件。 说…

管理后台,登录后回到登陆前的页面(比如地址栏输入页面地址但是还没登录会回到登录页面,登录后回到这个页面)

首先应该在路由守卫那里应该把这个地址存起来。 我在项目中用的是在路由守卫那里把地址用localstorage存起来。 详细代码如下: router.beforeEach((to, from, next) > { let permission {} let role JSON.parse(localStorage.getItem(‘role’)); for (let k…

登录页面成功

1.首先我们把跳转到页面登录成功的js链接拉进来,然后建立个外部CSS我们用来写页面样式,并且拉进我们的页面当中。 2.然后开始搭建页面我们需要到的有登录页面名称,用户名文本框以及密码文本框,还有一个登录按钮,每个文…

latex格式的英文文章中引用的中文参考文献在BIBTEX中的格式是如何的

查找了很多如何在bibtex中引用中文的参考文献,找到的总是bibtex如何在latex中的添加或者是显示,但是到底在bib文件中是如何写的呢? 中文文献在英文文献中引用首先就需要把它翻译成英文,而中文文献里都有英文标题,姓名…

文章同一位置引用多篇参考文献标注方法

写论文时会遇到在同一位置引用多篇参考文献的情况,像下面这种,这是怎样标注的呢 假使通过交叉引用得到如下文字 目标检测[4][5],下面简要介绍两种方法。 其一,选中4右边的半个括号,在字体选项卡中选中隐藏&#xff0…

Endnote引用中文、英文参考文献方法(不用手敲中文文献信息)

目录 引用英文参考文献 插入中文参考文献格式 导入出错的解决方案 引用英文参考文献 打开知网的官网,选择想要导出成endnote格式的文献(在文献前面打√,即为选中状态),在导出与分析-导出文献-endnote,即…

毕业生写论文必备!!超详细讲解参考文献格式

为了参考文献,我们老师开了一周的会。每次都要把我们不合格的参考文献打下去重弄,经过这一周的研究时间,我已经能成功帮我的小伙伴修改参考文献格式了。现在写成博客,希望能帮到大家。 超详细讲解参考文献格式 举例:作者 文献名 期刊 期刊来源 发表时间 卷(期) 页…

参考文献引用详细教程

参考文献引用详细教程 前言详细教程 前言 在写论文时经常需要引用参考文献,但是在正常标记后通过查重软件查重却识别不了引用信息,因此需要通过设置“交叉引用”使得系统能够识别出我们的引用 详细教程 1.首先,将参考文献题录复制到论文中…

英文参考文献的正确引用格式详解

英文参考文献的引用格式,经常令我们头疼。尤其是有些不自觉的老外,动不动就好多个中间名,让我们傻傻分不清。尤其是同一个作者,在不同的文献里面出现的时候,名字显示的格式也会有所不同。 普通情况下,老外…

马斯克这波操作赢麻了?网友:这是我们玩剩下的

我愿称马斯克已经掌握了人民企业家的精髓——写周报。 周报这东西在国内大家并不陌生,深受荼毒的人更非少数。不过在国外倒是很少,如果确实要汇报,一般都是拉个电话会议,只能说马斯克确实学到了精髓。 不过比起国内的周报卷到飞…

不想努力怎么办,马斯克脑机接口,BrainOS都能帮忙

在北京时间的8月29日凌晨,钢铁侠埃隆马斯克投资1亿多美元的脑机接口初创公司公司Neuralink(http://www.neurolink.company/)进行了一次现场发布会,展示新一代的脑机接口设备。 这场发布会的热度可以和苹果IPhone4发布会相媲美&am…

大模型落地比趋势更重要,NLP+金融如何看得见、摸得着?

全球很多人都开始相信,以ChatGPT为代表的大模型,将带来一场NLP领域乃至整个人工智能的技术革命,影响遍及各行各业。 那么,金融机构和科技企业,应该以怎样的姿态迈入新的洪流? 前不久,有“中国智…

GPT-4发布,能击败90%的人类

来源:青投创新 编辑:Tian "许多人工智能研究人员认为,整合文本、音频和视频的多模态系统为构建更强大的人工智能系统提供了最佳途径。 今天(3月15日)凌晨,OpenAI宣布推出GPT-4,这是其AI语言模型系列中最新的一款&…

实力爆表,日日新成为AI领航者

目录 正式发布自建算力SenseChat编程能力图像生成后言 上周五,阿里发布大模型通义千问,正式开始邀请内测。本周一,人工智能巨头商汤科技正式发布“日日新”大模型体系,全面丰富的产品体系,多个功能表现超预期&#xff…

【Pytorch基础教程36】基于Ernie预训练模型和Bert的新闻分类

文章目录 一、新闻分类任务1.1 中文数据集1.2 数据特点1.3 跑起代码 二、 预训练语言模型ERNIE2.1 ERNIE模型结构2.2 bert模型结构 三、项目代码1. bert模型2. ERNIE预训练模型 Reference 一、新闻分类任务 1.1 中文数据集 从THUCNews中抽取了20万条新闻标题,已上…

2012年决胜HTML5 十四大Web预测盘点

【IT168 评论】无论是当红科技企业如Zynga、Facebook、Google和Apple,还是刚刚诞生的初创企业,2012年都是决胜HTML5的一年。以下是关于HTML5在2012发展趋势的大胆预测: 一、欢迎来到更加互联的Web世界 2012年,HTML5将增加更多有用…

前端开发要点—Yahoo十四大军规

一.尽可能的减少HTTP请求数 http请求:从客户端到服务器端的请求消息。包括消息首行中,对资源的请求方法、资源的标识符及使用的协议。 简单地说,当你打开网页时,你所看到的文字、图片、多媒体等等,这一切内容&#xff…