Java之Redis分片机制

article/2025/9/30 16:41:09

1. Redis分片机制

1.1 分片机制说明

前提说明: redis可以通过修改内存的大小 实现数据的保存.但是内存的资源不易设置的过大,因为很多的时间都浪费在内存的寻址中.
需求: 如果有海量的数据,需要redis存储 问:应该如何处理?
解决方案: 可以采用Redis分片机制 实现内存数据的扩容.
知识点: 采用redis分片 只要的目的就是为了实现内存扩容.从而解决海量数据存储的问题
在这里插入图片描述

1.2 Redis分片搭建步骤

1.2.1 分片节点说明

说明: 端口号分别为  6379/6380/6381  

1.2.2 关闭原有的Redis

在这里插入图片描述

1.2.3 准备多个配置文件

1.创建shards目录
在这里插入图片描述
2.复制3份配置文件
在这里插入图片描述
3.修改各自的端口号
在这里插入图片描述
修改端口号:
在这里插入图片描述
关闭AOF模式
在这里插入图片描述
修改RDB模式名称
在这里插入图片描述
分别修改6380/6381 改为各自对应的端口号.
启动3台redis

[root@localhost shards]# redis-server 6379.conf
[root@localhost shards]# redis-server 6380.conf
[root@localhost shards]# redis-server 6381.conf

启动效果:
在这里插入图片描述

1.2.4 Redis分片入门案例

public class TestShards { //改类表示测试redis分片机制/*** 说明:在Linux中有3台redis.需要通过程序进行动态链接.* 实现数据的存储.* 思考: 数据保存到了哪台redis中???*/@Testpublic void test01(){List<JedisShardInfo> shards = new ArrayList<>();shards.add(new JedisShardInfo("192.168.126.129", 6379));shards.add(new JedisShardInfo("192.168.126.129", 6380));shards.add(new JedisShardInfo("192.168.126.129", 6381));//分片的APIShardedJedis shardedJedis = new ShardedJedis(shards);shardedJedis.set("王者荣耀", "你好我是小菜鸡,坑死你");System.out.println(shardedJedis.get("王者荣耀"));}
}

1.3 一致性hash算法

1.3.1 一致性hash说明

一致性哈希算法在1997年由麻省理工学院提出,是一种特殊的哈希算法,目的是解决分布式缓存的问题。 [1] 在移除或者添加一个服务器时,能够尽可能小地改变已存在的服务请求与处理请求服务器之间的映射关系。一致性哈希解决了简单哈希算法在分布式哈希表( Distributed Hash Table,DHT) 中存在的动态伸缩等问题 [2] 。

1.3.2 一致性hash原理

常识:

  1. 一般的hash由8位16进制数组成的. 共有2^32种可能性!!!
  2. hash算法对相同的数据进行hash运算时 结果必然相同.

00000000-FFFFFFFF 0-F=(24)8 = 2^32
进制:
1).二进制 取值 : 0-1 规则满2进1
2).八进制 取值 : 0-7 规则满8进1 2^3=8 每三位二进制数就是一个8进制数
3).十六进制 取值 : 0-9 A-F 规则满16进一 2^4=16 每四位二进制数就是一个16进制数
在这里插入图片描述
在这里插入图片描述

1.3.2 一致性hash 特性

1.3.2.1平衡性

①平衡性是指hash的结果应该平均分配到各个节点,这样从算法上解决了负载均衡问题
说明:引入虚拟节点 实现数据的平衡 但是平衡是相对的.不是绝对的.
在这里插入图片描述

1.3.2.2 单调性

②单调性是指在新增或者删减节点时,不影响系统正常运行 [4]
在这里插入图片描述

1.3.2.2 分散性

③分散性是指数据应该分散地存放在分布式集群中的各个节点(节点自己可以有备份),不必每个节点都存储所有的数据 [4] 。
鸡蛋不要放到一个篮子里.

1.4 Spring整合redis分片机制

1.4.1 准备Redis.pro文件

# 配置单台redis
#redis.host=192.168.126.129
#redis.port=6379# 配置多台redis
redis.nodes=192.168.126.129:6379,192.168.126.129:6380,192.168.126.129:6381

1.4.2 编辑配置类

@Configuration  //标识我是配置类
@PropertySource("classpath:/properties/redis.properties")
public class RedisConfig {@Value("${redis.nodes}")private String nodes;   //node,node,node/*** spring整合redis分片机制*/@Beanpublic ShardedJedis shardedJedis(){//1.获取每个节点的信息String[] strNodes = nodes.split(",");List<JedisShardInfo> shards = new ArrayList<>();//2.遍历所有node.为list集合赋值for(String node :strNodes){ //node=ip:portString host = node.split(":")[0];int port = Integer.parseInt(node.split(":")[1]);JedisShardInfo info = new JedisShardInfo(host,port);shards.add(info);}ShardedJedis shardedJedis = new ShardedJedis(shards);return shardedJedis;}/*  @Value("${redis.host}")private String  host;@Value("${redis.port}")private Integer port;//SpringBoot管理  Spring框架的优化的API@Beanpublic Jedis jedis(){return new Jedis(host,port);}*/
}

2.Redis哨兵机制

2.1 redis分片机制存在的问题

说明:Redis分片机制可以实现内存数据的扩容.但是如果Redis服务器发生了宕机的现象,则会影响整个分片使用.
问题:Redis分片机制没有实现高可用. 当主机宕机之后.由从机自动的实现故障迁移.用户访问不受任何影响.
在这里插入图片描述

2.2 Redis主从搭建

前提条件: 如果要实现redis高可用机制,则必须首先实现主从搭建.
主从关系设定: 6379当做主机-M 6380/6381 从机-S

2.2.1 准备哨兵工作目录

1).关闭分片的Redis配置.
在这里插入图片描述
2).准备redis哨兵配置 复制配置文件目录
在这里插入图片描述
3).删除持久化文件
在这里插入图片描述
4).准备3台redis服务器即可
重启redis
在这里插入图片描述

2.2.2 Redis主从配置

1).检查Redis默认条件下的主从关系
在这里插入图片描述
2).实现主从配置
命令:slave of 主机IP 主机端口
在这里插入图片描述
3).用户操作Redis主机,之后检查从机是否实现数据同步即可.
数据同步正常.
在这里插入图片描述

2.2.3 主从配置问题说明

说明:当redis服务器已经配置了主从结构之后.如果将服务器宕机.之后再次重启.则发现从服务器又会变为主机!!!
问题说明: 执行了主从挂载命令 该命令一直保存在内存中.当redis服务器重启之后,该命令失效.如果想要一直保持主从的关系.则必须将主从的结构写入Redis.conf的配置文件中.
在这里插入图片描述
2.3 哨兵机制原理说明
在这里插入图片描述
1.首先启动Redis哨兵.由哨兵监控整个Redis主从状态. 主要监控M主机. 同时获取其从机的信息.
2.哨兵利用心跳检测机制(PING-PONG)的方式监控主机是否宕机. 如果连续3次主机没有响应.则哨兵判断主机宕机.
之后开始进行选举.
3.根据从主机中获取的从机信息.之后利用 选举机制算法.挑选新的主机.
4.之后将剩余的redis修改为当前主机的的从.并且修改配置文件.

2.4 Redis实现哨兵机制

2.4.1 复制Redis哨兵配置文件

在这里插入图片描述

2.4.2修改配置文件

命令: 在sentinel目录下 vim sentinel.conf
在这里插入图片描述
2.修改哨兵监控配置
在这里插入图片描述
3.修改哨兵选举的时间
当redis主机宕机之后,哨兵多久开始选举.
在这里插入图片描述
4.选举超时时间设定
说明:如果当选主机的服务器在规定的时间之内,没有完成切换.则哨兵重新选举.
在这里插入图片描述

2.4.3 启动哨兵检查高可用性

命令: redis-sentinel sentinel.conf
在这里插入图片描述
测试步骤:
1.将6379主机宕机.
在这里插入图片描述
2.等待10秒之后.检查从机是否当选主机.
在这里插入图片描述
3.重启6379服务器.检查是否为当前主机的从.
在这里插入图片描述
重启服务之后,检查是否为从.!
在这里插入图片描述

2.5 Spring整合Redis哨兵

2.5.1 入门案例

package com.jt.test;
import org.junit.jupiter.api.Test;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisSentinelPool;
import java.util.HashSet;
import java.util.Set;
public class TestSentinel { //主要完成哨兵测试/*** 参数说明:*   masterName: 主机名称*   sentinels:  哨兵节点信息.*/@Testpublic void test01(){Set<String> sentinels = new HashSet<>();String node = "192.168.126.129:26379";sentinels.add(node);JedisSentinelPool sentinelPool =new JedisSentinelPool("mymaster", sentinels);Jedis jedis = sentinelPool.getResource(); //获取资源jedis.set("sentinel", "redis哨兵机制配置成功!!!!");System.out.println(jedis.get("sentinel"));}
}

3 搭建Redis集群

3.1 Redis分片/Redis哨兵总结

说明:
1).分片可以实现Redis内存数据的扩容.可以存储海量的内存数据. Redis分片机制没有实现高可用.如果分片中一个节点宕机,则直接影响整个服务的运行.
2).哨兵可以实现Redis节点的高可用.但是Redis中的数据不能实现内存的扩容.
哨兵服务本身没有实现高可用.如果哨兵发生了异常则直接影响用户使用.

想法:  能否有一种机制既可用满足海量数据的存储要求(扩容),同时可以实现redis高可用,并且还不会依赖第三方.

http://chatgpt.dhexx.cn/article/IBoYfHy4.shtml

相关文章

Redis分片+Redis哨兵

Redis分片机制 Redis分片前提:Redis可以通过修改内存的大小实现数据的保存,但是不能设置的过大 解决方案:可以采用Redis分片机制来实现内存数据的扩容,使用Redis分片的主要目的就是为了内存扩容,解决海量数据的存储问题 Redis每个分片内的数据都是不相同的 Redis分片搭建步骤…

flea-cache使用之Redis分片模式接入

Redis分片模式接入 1. 参考2. 依赖3. 基础接入3.1 定义Flea缓存接口3.2 定义抽象Flea缓存类3.3 定义Redis客户端接口类3.4 定义Redis客户端命令行3.5 定义分片模式Redis客户端实现类3.6 定义Redis分片连接池3.7 Redis配置文件3.8 定义Redis Flea缓存类3.9 定义抽象Flea缓存管理…

java如何实现redis分片存储_Redis的分片机制

前言:大家都知道redis单台的默认内存大小一般是10M.如果现在需要我们将1G的数据保存到内存中。这该如何做到呢?比如我们就用单台redis,但是一味的扩大单台redis内存则直接影响执行的效率,会有一种得不偿失的感觉。于是呢,我们就得采用分片策略实现数据保存,通过多台redis…

Redis分片的实现

1.为什么使用分片 1.1 说明: 虽然redis可以扩展内存空间的大小,但是如果需要存储海量的数据,一味地去扩大内存,其实效率不高. 1.2 分片的介绍 准备多台redis,共同为用户提供缓存服务,在保证效率的前提下,实现了内存的扩容. 用户在使用分片机制时,将多台redis当做一个整体来…

使用DockerCompose部署Redis分片集群——整合SpringBoot

今天来记录一下使用DockerCompose部署Redis分片集群的过程&#xff0c;前面写了几篇关于redis的博客了&#xff0c;这里就不再过多介绍了&#xff0c;直接上配置就好了 version: "3.0"services:redisServer1:image: redis:6.2.4container_name: redis_server1volume…

redis之分片集群

写在前面 当redis单实例存储的数据过多时&#xff0c;比如说20G&#xff0c;就会出现因为生成RDB快照较长时间比如500ms阻塞主线程的问题&#xff0c;在这一段时间里&#xff0c;因为主线程被阻塞&#xff0c;所以Redis实例无法正常的对外提供服务&#xff0c;出现这个问题的原…

Redis分片集群(详解+图)

目录 分片集群特征&#xff1a; 散列插槽 集群伸缩 创建新的redis实例 添加新节点到redis 转移插槽 故障转移 自动故障转移 手动故障转移 RedisTemplate访问分片集群 主从和哨兵可以解决高可用、高并发读的问题。但是依然有两个问题没有解决&#xff1a; 海量数据存储问…

redis分片_Redis分片

redis分片 本文是我们学院课程的一部分&#xff0c;标题为Redis NoSQL键值存储 。 这是Redis的速成课程。 您将学习如何安装Redis和启动服务器。 此外&#xff0c;您还会在Redis命令行上乱七八糟。 接下来是更高级的主题&#xff0c;例如复制&#xff0c;分片和集群&#xff0…

(分布式缓存)Redis分片集群

对应的教程视频: 高级篇Day3-04-Redis分片集群_哔哩哔哩_bilibili 一.搭建分片集群 1.集群结构 分片集群需要的节点数量较多&#xff0c;这里我们搭建一个最小的分片集群&#xff0c;包含3个master节点&#xff0c;每个master包含一个slave节点&#xff0c;结构如下&#xff…

Docker中搭建redis分片集群,搭建redis哨兵结构,实现springboot中对redis分片集群、哨兵结构的访问,Redis缓存雪崩、缓存击穿处理(非关系型数据库技术课程 第十二周)

文章目录 一、要求&#xff1a;二、知识总结缓存雪崩解决方案 docker中redis分片集群搭建配置好配置文件redis-6380.confredis-6381.confredis-6382.confredis-6383.confredis-6384.confredis-6385.conf 将conf_cluster文件夹移动到对应位置docker中运行对应的redis容器docker中…

Redis分片入门案例

说明 由多台redis共同处理用户的业务数据&#xff0c;实现了redis内存数据的动态扩容&#xff0c;称之为分片机制。 特点 多态redis当作一台使用 分片搭建 1、在redis工作目录下创建工作目录 [rootlocalhost redis]# mkdir shards2、把redis配置文件复制到指定目录下 3、…

分布式缓存-Redis分片集群

一、分片集群结构 主从和哨兵可以解决高可用、高并发读的问题&#xff0c;但是依然有两个问题没有解决&#xff1a; 海量数据存储问题高并发写的问题 使用分片集群可以解决上述问题&#xff0c;分片集群特征&#xff1a; 集群中有多个 master&#xff0c;每个 master 保存不…

SpringBoot整合Redis分片

1 编辑分片配置文件 #redis.host192.168.126.129 #redis.port6379 redis.nodes192.168.126.129:6379,192.168.126.129:6380,192.168.126.129:63812 编辑配置类实现redis整合 Configuration //我是一个配置类 一般都会与Bean联用 PropertySource("classpath:/properti…

Redis搭建分片集群

一、什么是Redis分片集群 1、概念 Redis分片集群是用于将Redis的数据分布在多个Redis节点上的分布式系统。通过分片集群&#xff0c;可以将数据分成多个部分&#xff0c;并将每个部分存储在不同的节点上&#xff0c;以便实现Redis的高可用性和高性能。 2、Redis分片集群原理…

Docker下搭建Redis分片集群

分片集群结构 同一台虚拟机中开启6个redis实例&#xff0c;模拟分片集群 IP PORT角色192.168.19.1287001master192.168.19.1287002master192.168.19.1287003master192.168.19.1288001slave192.168.19.1288002slave192.168.19.1288003slave 搭建Redis分片集群 创建实例目录 …

redis分片集群

目录 分片集群结构搭建分片集群散列插槽集群伸缩故障转移 分片集群结构 主从和哨兵可以解决高可用、高并发读的问题。但是依然有两个问题没有解决&#xff1a; 1.海量数据存储问题 2.高并发写的问题使用分片集群可以解决上述问题&#xff0c;分片集群特征&#xff1a; 1.集群…

Redis分区/分片详解

分区/分片详解 分区是分割数据到多个Redis实例的处理过程&#xff0c;因此每个实例只保存key的一个子集。 如果只使用一个redis实例时&#xff0c;其中保存了服务器中全部的缓存数据&#xff0c;这样会有很大风险&#xff0c;如果单台redis服务宕机了将会影响到整个服务。解决的…

Redis(七)--分片技术详解

文章目录 介绍Redis集群的数据分布算法&#xff1a;哈希槽算法集群的请求重定向Redis集群中节点的通信机制&#xff1a;goosip协议介绍原理通信过程优缺点goosip协议的常见类型 集群的扩容与收缩扩容收缩 集群的故障检测与故障恢复机制故障检测故障恢复 介绍 Redis分片&#x…

Redis集群系列五 —— 分区/片概念

什么是分区 分区就是将所存储的数据按照一定的规则存储在不同的存储服务或介质上&#xff0c;通过降低单服务或介质的数据量级来提升数据处理能力&#xff0c;从而达到拥有数据处理横向扩容的能力的目的。 还可简单的理解为分区就是将数据拆分到多个 Redis 实例的过程&#xf…

redis分区(分片)原理

redis相关文章 ----redis原理概述 -----redis集群方案 ----redis分区&#xff08;分片&#xff09;原理 ----Redis实现分布式锁 ----redis缓存穿透、雪崩和解决方案 分区的概念 分区是分割数据到多个Redis实例的处理过程&#xff0c;因此每个实例只保存key的一个子集如果只使…