城市建设网站调查问卷,网站建设合同 简单,制作排行榜的软件,西宁做网站君博美评官方文档
一、Redis持久性
Redis如何将数据写入磁盘
持久性是指将数据写入持久存储#xff0c;如固态磁盘#xff08;SSD#xff09;。Redis提供了一系列持久性选项。其中包括#xff1a; RDB#xff08;快照#xff09;#xff1a;RDB持久性以指定的时间间隔执行数据…官方文档
一、Redis持久性
Redis如何将数据写入磁盘
持久性是指将数据写入持久存储如固态磁盘SSD。Redis提供了一系列持久性选项。其中包括 RDB快照RDB持久性以指定的时间间隔执行数据集的时间点快照。 AOF追加写文件AOF持久性记录服务器接收到的每个写入操作。然后可以在服务器启动时再次回放这些操作重建原始数据集。使用与Redis协议本身相同的格式记录命令。 无持久性您可以完全禁用持久性。这有时在缓存时使用。 RDBAOF您也可以在同一实例中组合AOF和RDB。
二、RDB快照Redis DataBase 默认情况下Redis会将内存数据库的快照保存在一个名为 **dump.rdb**的二进制文件中。 你可以配置Redis当满足“N秒内数据集至少有M个改动”的条件时自动保存一次数据集。
例如以下配置会让Redis在满足“60秒内有至少1000个键被改动”的条件下自动保存一次
save 60 1000 //要关闭RDB只需要将所有的save保存策略注释掉即可。此外你还可以手动执行命令来生成RDB快照只需要进入Redis客户端执行save或bgsave命令就可以生成dump.rdb文件。每次执行这些命令时都会将Redis内存中的快照保存到一个新的RDB文件中并覆盖原有的RDB快照文件。
2.1 bgsave的写时复制(COW)机制
Redis 通过利用操作系统提供的写时复制技术Copy-On-Write, COW在生成快照的同时可以正常处理写命令。 当满足写快照的条件时主线程会fork一个bgsave 子进程这个子进程可以共享主线程的所有内存数据。bgsave 子进程运行后开始读取主线程的内存数据并将其写入 RDB 文件 副本。此时如果主线程对这些数据也都是读操作那么主线程和 bgsave 子进程就不会产生影响。但是如果主线程要修改一块数据那么这块数据将会被复制一份生成该数据的副本。然后bgsave 子进程会把这个副本数据写入 RDB 文件而在这个过程中主线程仍然可以直接修改原来的数据。
save与bgsave对比
命令savebgsaveI/O类型同步异步是否阻塞redis其它命令是否(在生成子进程执行调用fork函数时会有短暂阻塞)复杂度O(n)O(n)优点不会消耗额外内存不阻塞客户端命令缺点阻塞客户端命令需要fork子进程消耗内存
配置自动生成rdb文件后台使用的是bgsave方式。
2.2 RDB方式存在的问题 RDB是满足了配置的条件才会进行持久化操作的但是不能更改为每一秒都进行改动就写快照因为RDB记录的是整个内存数据这样会严重影响性能。 如果在未满足生成快照的条件之前Redis就 宕机 了就会导致数据丢失。
三、AOFappend-only file 快照功能并不是非常耐久durable 如果 Redis 因为某些原因而造成故障停机 那么服务器将丢失最近写入、且仍未保存到快照中的那些数据。 从 1.1 版本开始 Redis 增加了一种完全耐久的持久化方式 AOF 持久化将修改的每一条指令追加写进文件 appendonly.aof 中(先写入os cache每隔一段时间fsync到磁盘)
比如执行命令“set zhuge 666”aof文件里会记录如下数据
*3
$3
set
$5
zhuge
$3
666这是一种 resp 协议格式数据星号 后面的数字代表命令有多少个参数$号 后面的数字代表这个参数有几个字符
注意如果执行带过期时间的set命令aof文件里记录的是并不是执行的原始命令而是记录key过期的 时间戳
比如执行“set tuling 888 ex 1000”对应aof文件里记录如下
*3
$3
set
$6
tuling
$3
888
*3
$9
PEXPIREAT
$6
tuling
$13
1604249786301你可以通过修改配置文件来打开 AOF 功能
appendonly yes开启后每当 Redis 执行一个改变数据集的命令时比如 SET 这个命令就会被追加到 AOF 文件的末尾。这样的话 当 Redis 重新启动时 程序就可以通过重新执行 AOF 文件中的命令来达到重建数据集的目的。
3.1 配置 Redis 数据 fsync 到磁盘
有三个选项
appendfsync always每次有新命令追加到 AOF 文件时就执行一次 fsync 非常慢也非常安全。 appendfsync everysec每秒 fsync 一次足够快并且在故障时只会丢失 1 秒钟的数据。 appendfsync no从不 fsync 将数据交给操作系统来处理。更快也更不安全的选择。
推荐并且也是默认的措施为每秒 fsync 一次 这种 fsync 策略可以兼顾速度和安全性。
3.2 AOF重写
AOF文件里可能有太多没用指令所以AOF会定期根据内存的最新数据生成aof文件
例如执行了如下几条命令
127.0.0.1:6379 incr readcount
(integer) 1
127.0.0.1:6379 incr readcount
(integer) 2
127.0.0.1:6379 incr readcount
(integer) 3
127.0.0.1:6379 incr readcount
(integer) 4
127.0.0.1:6379 incr readcount
(integer) 5重写后AOF文件里变成
*3
$3
SET
$2
readcount
$1
53.3 AOF自动重写频率配置
# auto-aof-rewrite-min-size 64mb //aof文件至少要达到64M才会自动重写文件太小恢复速度本来就很快重写的意义不大
# auto-aof-rewrite-percentage 100 //aof文件自上一次重写后文件大小增长了100%则再次触发重写当然AOF还可以手动重写进入redis客户端执行命令 bgrewriteaof 重写AOF
注意AOF重写redis会fork出一个子进程去做(与bgsave命令类似)不会对redis正常命令处理有太多影响
RDB 和 AOF 我应该用哪一个
方式RDBAOF启动优先级低高体积小(二进制压缩的方式存储)大恢复速度快慢数据安全性容易丢数据根据策略决定
redis启动时如果既有rdb文件又有aof文件则 优先选择aof文件恢复数据因为aof一般来说数据更全一点。
四、Redis 4.0 混合持久化 重启 Redis 时我们很少使用 RDB来恢复内存状态因为会丢失大量数据。 我们通常使用 AOF 日志重放但是重放 AOF 日志性能相对 RDB来说要慢很多这样在 Redis 实例很大的情况下启动需要花费很长的时间。 Redis 4.0 为了解决这个问题带来了一个新的持久化选项——混合持久化。
通过如下配置可以开启混合持久化(必须先开启aof)
# aof-use-rdb-preamble yes 如果开启了混合持久化AOF在重写时不再是单纯将内存数据转换为RESP命令写入AOF文件 而是将重写这一刻之前的内存做RDB快照处理并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起都写入新的AOF文件 新的文件一开始不叫appendonly.aof等到重写完新的AOF文件才会进行改名覆盖原有的AOF文件完成新旧两个AOF文件的替换。 于是在 Redis 重启的时候可以 先加载 RDB 的内容然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放因此重启效率大幅得到提升。
混合持久化AOF文件结构如下 4.1 Redis数据备份策略 写crontab定时调度脚本每小时都copy一份rdb或aof的备份到一个目录中去仅仅保留最近48小时的备份 每天都保留一份当日的数据备份到一个目录中去可以保留最近1个月的备份 每次copy备份的时候都把太旧的备份给删了 每天晚上将当前机器上的备份复制一份到其他机器上以防机器损坏
