Redis 持久化机制 RDB

文若2年前技术文章867


前言

Redis 有两种持久化机制,分别是 RDB 与 AOF 本篇文章将介绍 RDB 的执行过程与应用。

1. RDB 简介

RDB 持久化是把当前进程数据生成快照保存到硬盘的过程,触发 RDB 持久化过程分为手动触发和自动触发。常用于全量备份和数据迁移。

2. 触发机制

2.1 手动触发

命令 save

执行 save 会堵塞当前 Redis 服务器,直到 RDB 结束为止,对数据量较大或者内存较大的实例,会堵塞较长时间,生产环境不建议使用。如果手动执行 save 命令,Redis 会记录下方日志。

127.0.0.1:6379> save
OK

* DB saved on disk

命令 bgsave

Redis 进程执行 fork 操作创建子进程,RDB 持久化过程由子进程负责,完成后自动结束。阻塞只发生在 fork 阶段,一般时间很短。如果手动执行 bgsave 命令,Redis 会记录下方日志。

* Background saving started by pid 90338
* DB saved on disk
* RDB: 0 MB of memory used by copy-on-write
* Background saving terminated with success

bgsave 对 save 堵塞进行优化,Redis 内部涉及 RDB 操作都是由 bgsave 完成。

2.2 自动触发

内部自动触发

从节点执行全量复制操作,主节点自动执行 bgsave 生成 RDB 文件发送给从节点。

执行 debug relad 重新加载 Redis 时,也会触发生产 RDB。

默认情况下,执行 shutdown 关闭 Redis 时,如果没有开启 AOF 持久化功能,则会触发 RDB。

参数设置触发

使用 save 相关配置,如 save m n 表示 m 秒内数据集存在 n 次修改时,触发一次 RDB。

127.0.0.1:6379> config get save
1) "save"
save 900 1 -- 900 秒内有数据变更则写入 RDB 文件
save 300 10  -- 300 秒内有 10 条以上数据变更则写入 RDB 文件
save 60 10000 -- 60 秒内有 10000 条以上数据变更则写入 RDB 文件

3. 参数设置

3.1 保存路径

通过设置 dir 可以配置 RDB 保存位置 dbfilename 可以设置文件名。

config set dir /opt/redis-5.0.12/backup
config set dbfilename bak_redis_db.rdb

3.2 备份压缩

Redis 默认采用 LZF 算法对生成的RDB文件做压缩处理,压缩后的文件远远小于内存大小,默认开启,可以通过 rdbcompression 参数配置。

config set rdbcompression{yes|no}

4. RDB 优缺点及原理

4.1 优势

RDB是一个紧凑压缩的二进制文件,代表 Redis 在某个时间点上的数据快照。非常适用于备份,全量复制等场景。加载恢复的速度远快于 AOF 机制。

4.2 缺点

RDB 方式数据没办法做到实时持久化/秒级持久化。因为 bgsave 每次运行都要执行 fork 操作创建子进程,属于重量级操作,频繁执行成本过高。

RDB 文件使用特定二进制格式保存,Redis 版本演进过程中有多个格式的 RDB 版本,存在老版本 Redis 服务无法兼容新版 RDB 格式的问题。

4.3 Copy-On-Write

通过使用 bgsave 命令,通过 fork 操作创建子进程,可以共享主线程所有的内存数据,执行后则开始进行 copy 数据,写入 rdb 文件中。期间如果有读操作,可以正常响应,与 bgsave 子进程互不影响,期间如果有修改操作,例如修改一块数据,这块数据就会被复制一份,生成这块数据的副本,主线程在这块数据副本上操作,不影响 bgsave 子进制的 copy 操作。

该机制为 Copy-On-Write 写时复制,可以减少 RDB 期间对 Redis 正常读写的影响。

风险点:执行 bgsave 命令,如果期间 Redis QPS 非常高,写入频繁,就需要更多的内存,来维护写时复制。

5. RDB 迁移测试

5.1 环境说明

系统版本:CentOS Linux release 7.8.2003 (Core)

Redis 版本:Redis 5.0.0

5.2 数据导出

redis-cli -h {source_redis_address} -p 6379 -a {password} --rdb {output.rdb}

5.3 数据导入

Redis 启动时会检查是否开启并且有 AOF 文件,如果有会直接加载 AOF 如果没有才会去寻找是否有 RDB 文件备份文件,所以我们将 RDB 文件加载到一个新 Redis 实例上,需要临时关闭 AOF 机制。

-- 关闭 AOF
config set appendonly no
-- 查询 AOF
config get appendonly
  1. 查询目标端路径参数,路径 dir 参数,文件名 dbfilename 参数。

127.0.0.1:6379> config get dir
1) "dir"
2) "/usr/local/redis-5.0.0"
127.0.0.1:6379> config get dbfilename
1) "dbfilename"
2) "bak_redis_db.rdb"
127.0.0.1:6379>
  1. 关闭目标端 Redis 服务。

redis-cli shutdown
  1. 上传 RDB 文件到目标端服务器,路径和文件名分别与目标端 dir 和 dbfilename 参数保持一致。

  2. 启动目标端 Redis 服务。

  3. 检查 key 数量,核实是否迁移成功。

dbsize
  1. 数据一致性校验,参考 Redis-full-check 工具。


相关文章

prometheus  web页面卡顿无法使用问题

prometheus web页面卡顿无法使用问题

详细描述:卡顿位置主要位于输入页面输入PromQL的地方,只要碰到那个框,页面就会卡死【分析过程】查看浏览器cpu发现,只要动了那个框内的内容,cpu就会打满;   如果提前编辑好查询的sql内容...

A集群导入B集群中的高可用版rancher,一直处于pending状态

A集群导入B集群中的高可用版rancher,一直处于pending状态

问题现象:已知在B集群中采用helm方式部署了一个高可用版本的rancher,该rancher中已经配置导入了三套集群,并且三套集群状态在rancher控制台处均显示正常,日常可借助该rancher管...

PG参数整理

一、参数的分类参数的类型名称说明internal内部参数,只读无法修改。postgres程序写死或者是在初始化指定后无法修改的参数postmaster更改该类参数,需重启生效sighup不需重启,重新...

RBAC配置只读用户

一.背景有时候需要给第三方业务访问k8s集群,但是rancher无法实现提取容器内文件的功能。此时需要给第三方直接访问k8s集群的能力,并且进行一定的权限限制二.操作前了解相关配置和要求熟悉linux...

MySQL 复制延迟是如何计算的?

MySQL 复制延迟是如何计算的?

前言日常运维中总会收到 MySQL 备库延迟告警,一般数据库监控只读实例延迟都是采集 Seconds_Behind_Master 值,我们都知道它在某些场景下不可靠,今天一起探索 MySQL 是如何计...

NAS文件被删除问题排查

NAS文件被删除问题排查

一、问题现象客户业务方反馈服务器上挂载的nas文件被删除,业务中许多文件丢失,业务受到严重影响。需要我方协助排查。二、问题背景该nas挂载到两台业务服务器上,后端应用为java应用,存储内容为jpg、...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。