了解集群、集群的分类、常用的集群软硬件及选型介绍(内附详细图解)

article/2025/9/15 20:03:14

Table of Contents

 

一、集群简介

二、集群的七大优点

三、集群的分类

四、常用的集群软硬件及选型介绍


一、集群简介

     集群就是一组(若干个)相互独立的计算机,利用高速通信网络组成的一个较大的计算机服务系统,每个集群节点(即集群中的每台计算机)都是运行各自服务的独立服务器。这些服务器之间可以彼此通信,协同向用户提供应用程序、系统资源和数据。

二、集群的七大优点

1、高性能

    我们大家都知道淘宝的双11,双11的零点,用户并发量相当恐怖,以全世界现有的技术,即使是大型机,其计算能力也是有限的,很难单独处理完双11零点的用户并发,还可能因为,并发量太大,造成计算机宕机,因此对于这类复杂的计算业务,便需要使用计算机集群技术。集中成千上万台计算机进行处理。

2、价格有效性

    达到同样的性能需求的条件下,计算机集群架构比采用同等运算能力的大型计算机具有更高的性价比

    举例:早期的淘宝、支付宝数据库等核心系统就是使用上百万元的小型机服务器,后面因为维护成本太高,扩展设备费用成几何级数翻倍,就采用了PC服务器集群替换,把数据库从小机和oracle结合迁移到了MySQL开源数据库与PC服务器结合上来。成本下降了,扩展和维护也容易许多。

3、可伸缩性

    当服务负载、压力增长时,针对集群系统进行较简单的扩展即可满足需求,且不会降低服务质量。

4、高可用性

    单一的计算机系统总会面临设备损毁的问题,而在集群系统中,尽管部分硬件和软件也还是会发生故障,但整个系统的服务还是可以实现7*24可用的。

5、透明性

    多个独立计算机组成的松耦合集群系统构成一个虚拟的服务器,客户端访问集群系统时,就像访问一台高性能、高可用的服务器一样,集群中一部分服务器的上线和下线不会中断整个系统服务,这对用户也是透明的。

6、可管理性

    整个系统可能再物理上很大,但其实管理很容易

7、可编程性

    容易开发及修改各类应用程序

三、集群的分类

    计算机集群按功能和结构可以分为以下几类:

1、负载均衡集群(Load balancing cluters)

    负载均衡集群为企业提供了更为实用、性价比更高的系统架构解决方案。负载均衡集群可以把很多客户集中的访问请求负载压力尽可能平均的分摊在计算机集群中进行处理。每个节点都可以承担一定的访问请求负载压力,并且可以实现访问请求在各节点之间的动态分配,以实现负载均衡。

   负载均衡集群运行时,一般是通过一个或多个前端负载均衡器将客户请求分发到后端的一组服务器上,从而达到整个系统的高可用和高性能。

   负载均衡集群的作用:

                                       (1)分担用户访问请求及数据流量(负载均衡)

                                       (2)保持业务的连续性,即7*24小时的服务(高可用)

                                       (3)应用于Web业务及数据库从库等服务器的业务

下图便为负载均衡集群的图解:

负载均衡集群的典型的开源软件包括LVS、Nginx、Haproxy等,这些都可以充当上图的负载均衡器

2、高可用集群(High-availablility clusters)

    一般是指在集群中任意一个节点失效的情况下,该节点上的所有任务会自动转移到其他正常节点上,此过程不影响整个集群的运行。

    当集群中的一个节点故障之后,运行的集群系统会马上作出反应,将该系统的服务分配到集群中其他正在工作的系统上运行,高可用集群的主要的目的是使集群整体尽可能的可用。如果高可用集群中的主节点发生了故障,那么这段时间将由备用节点代替它,备节点通常是主节点的镜像,它可以完全接管主节点(包括IP地址及其他资源)提供服务,因此这对于用户是无感的,不会影响用户的访问。

    高可用集群的作用:

                                    (1)当一台机器宕机时,另外一台机器接管宕机的机器的IP资源和服务资源,提供服务。

                                    (2)常用于不易实现负载均衡的应用,比如负载均衡器,主数据库,主存储对之间。

下图便是实现了高可用的负载均衡集群,并且做了动静分离的:

高可用集群常用的开源软件包括keepalived,heartbeat等。

3、高性能计算集群(High-performance clusters)

也称并行计算。高性能集群对外就好比一个超级计算机,内部由数十上万个独立服务器组成。把任务分成多个小任务,发到集群节点进行计算,计算后返回结果,继续领新任务进行计算,如此往复。

4、网格计算集群(Grid computing)

不常用,略。

四、常用的集群软硬件及选型介绍

1、常用的集群软硬件

软件:Nginx、LVS、Haproxy、Keepalived、Heartbeat

硬件:F5、Netscaler、Radware、A10等,工作模式相当于Haproxy。

2、选型

(1)企业业务重要时,技术力量薄弱,可选择硬件负载均衡产品,此类公司多为传统的大型非互联网企业,如:银行、证券、金融业、宝马及奔驰公司等。

(2)对于门户网站来说:大多会并用软硬件来分担单一产品的风险,如:淘宝、腾讯、新浪等。

(3)中小型互联网企业,会使用开源免费的方案来解决问题,因此会雇佣专门的运维人员进行维护。如:51CTO等。

目前的互联网行业更倾向于使用开源免费的负载均衡软件

3、如何选择开源集群软件产品

    网站并发量和总访问量不是很大建议选用Nginx负载均衡,另外一个实现负载均衡的类似产品为Haproxy(支持L4和L7负载,同样优秀,但社区不如Nginx活跃)。

    如果要考虑Nginx的负载均衡的高可用功能,建议首选Keepalived软件。

 

如果是大型企业互联网公司,负载均衡产品可以使用LVS+Keepalived在前端做四层转发(一般是主备或主主,如果需要扩展可以使用DNS或前端使用OSPF),后端使用Nginx或者Haproxy做七层转发,再后面是应用服务器。

如果是数据库与存储的负载均衡和高可用,建议选择LVS+Heartbeat,LVS支持TCP转发且DR模式效率很高,Heartbeat可以配合drbd,不但可以进行VIP切换,还可以支持块设备级别的数据同步(drbd),以及资源服务管理。

 

 

 


http://chatgpt.dhexx.cn/article/r7b1WAqm.shtml

相关文章

高可用 - 01 闲聊高性能集群

文章目录 什么是集群集群的特点与功能1. 高可用性与可扩展性2. 负载均衡与错误恢复3. 心跳监测与漂移IP地址 集群的分类1. 高可用集群高可用的概念常见的HA集群双机冷备双机热备双机互备多机互备 高可用集群软件 2. 负载均衡集群3. 分布式计算集群 HA集群中的相关术语1&#xf…

集群管理

集群管理 应用集群中,我们常常需要让每一个机器知道集群中(或依赖的其他某一个集群)哪些机器是活着的,并且在集群机器因为宕机,网络断链等原因能够不在人工介入的情况下迅速通知到每一个机器。 Zookeeper同样很容易实…

CentOS8系统安装LSF集群管理软件

一、什么是LSF? LSF(Load Sharing Facility)是IBM旗下的一款分布式集群管理系统软件,负责计算资源的管理和批处理作业的调度。常用的分布式集群管理系统软件有PBS、SLURM、LSF。 二、安装环境(虚拟机) 主机…

集群解决方案

集群概念 集群是一种计算机系统, 它通过一组松散集成的计算机软件和/或硬件连接起来高度紧密地协作完成计算工作。在某种意义上,他们可以被看作是一台计算机。集群系统中的单个计算机通常称为节点,通常通过局域网连接,但也有其它…

集群集群

一、什么是集群 集群(Cluster )是将多个单独存在的服务器,通过集群技术将其集合,构成一个工作组、一台大型的服务器,以单一系统的模式加以管理。 简而言之,集群就是将多台机器组合成一台机器使用。 二、…

集群监控

文章目录 一、监控简介1.1 重要性1.2 常见监控平台1.2.1 Cacti1.2.2 Nagios1.2.3 Zabbix 二、Cacti 监控服务器2.1 组件构成2.1.1 SNMP2.1.2 RRDtool2.1.3 工作架构 2.2 Cacti 监控组件安装配置2.2.1 安装环境(10.10.10.11)2.2.2 安装 rrdtool (10.10.10.11)2.2.3 部署 cacti&a…

群集技术:三款主流服务器集群软件

1、ROSE HA 服务器集群软件 在双机热备的架构中,除了要考虑切换时间外,要根据每个系统的作业环境,包括网路系统是单网或是双 网,数据库的安装和作业内容及用户端的设备是经由广域网路、区域网路接入不同用户有不同的需求&#x…

常见集群(Cluster)软件和技术解析

集群就是通过软件将一组服务器作为一个整体向客户提供资源。这些单个的服务器就是集群的节点。当对外提供资源的节点故障后,集群中其余的节点能够将资源接管起来,继续对客户提供资源。 集群技术的核心就是资源访问控制。由于集群中所有节点都可以访问集群…

【集群】集群的概念(相关知识)、常用工具/算法、常见集群

文章目录 前言一、集群架构1.1 负载调度器1.1.1 常用调度算法1.1.2 LVS模块 1.2 节点服务器1.3 共享储存1.3.1 NFS共享储存1.3.2 NAS存储设备 二、集群2.1 负载均衡2.1.1 定义2.1.2 负载均衡搭建 2.2 高可用2.2.1 定义2.2.2 高可用集群搭建 2.3 高性能运算群集 三、ipvsadm工具…

集群测试工具

DFSIO测试集群I/O性能 DFSIO 用法 hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-2.7.X-tests.jar TestDFSIO 15/05/22 19:50:22 INFO fs.TestDFSIO: TestDFSIO.1.8 Missing arguments. Usage: TestDFSIO [genericOptions] -read […

集群监视软件Ganglia

什么是ganglia Ganglia监控软件主要是用来监控系统性能的软件,如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等,通过曲线很容易见到每个节点的工作状态,对合理调整、分配系统资源,提高系统整体性能起到…

Linux集群管理软件clustershell

Linux集群管理软件clustershell 1.简介 机房有大概百台的服务器需要管理,加上需要搭建Hadoop以及Spark集群等,因此,一个轻量级的集群管理软件就显得非常有必要了。经过一段时间的了解以及尝试,最终选择了clustershell这个软件&…

计算机集群

计算机集群简称集群是一种计算机系统, 它通过一组松散集成的计算机软件和/或硬件连接起来高度紧密地协作完成计算工作。在某种意义上,他们可以被看作是一台计算机。集群系统中的单个计算机通常称为节点,通常通过局域网连接,但也有…

HAProxy集群与常见的Web集群软件调度器对比

目录 一.常见的Web集群调度器 二.HAProxy基本介绍 1.HAProxy是什么? 2.HAProxy的特性 3.HAProxy常用的8种负载均衡调度算法 3.1 轮询:RR(Round Robin) 3.2 最小连接数:LC(Least Connections&#xf…

[Linux基础与服务管理——常用集群高可用软件 Keepalived]

1.Keepalived 简介 Keepalived是Linux下的一个免费的、轻量级的高可用解决方案。是一个由C语言编写的路由软件,主要目标是为Linux系统和基于Linux的基础架构提供简单而强大的负载平衡和高可用性设。Keepalived实现了一组检查器,以根据其健康状况动态地和…

高性能集群软件keepalived

背景 网络的飞速发展,给网络带宽和服务器性能带来了巨大的挑战,基于互联网的应用系统越来越多地瓶颈出现在服务器端,这就对服务器提出了更高的要求,来保证服务的持续性。 集群简介 定义:集群是一组协同工作的服务集合…

集群分为几种,用的软件分别是什么?

集群分为几种,用的软件分别是什么? 补充:涉及的组件 1.1、apache 跨平台的网页服务器,主要使用它做静态资源服务器,也可以做代理服务器转发请求 1.2、ngnix 高性能的 HTTP和反向代理服务器,ngnix处理能力相当于apache…

Linux下的5款主流高可用集群软件介绍

Linux集群主要分成三大类:高可用集群(High Availability Cluster)、负载均衡集群(Load Balance Cluster)、科学计算集群(High Performance Computing Cluster)。 其中高可用集群具有保障应用程序持续提供服务的能力,可以将因软、硬件、人为造成的故障对业务的影响降低到最小…

Horizon Daas 桌面报错:desktop agent通信错误

一、故障描述 上述错误是因无法解析来自身份验证错误响应中的错误时,会报出。这往往时由于horizon client与TA,view agent之间的通信中断造成的。造成在desktone.log日志里可看到相关warning或error,如下所示: 二、分析处理 1、…

一文看懂数据服务DaaS

数据是国家的,金融是国家的。朕不给,你不能要。 (1)中国数据服务 一、数据工具 像云计算厂商搞的大数据平台,就是这个定位。它们纯搞产品,做好品牌,做好合作伙伴招募,由合作伙伴去做…