机械类网站如何做网站优化,网站建设计算机人员招聘,教育网站颜色,怎么样才算是一个网站页面Redis过期删除策略和内存淘汰策略有什么区别#xff1f; 前言过期删除策略如何设置过期时间#xff1f;如何判定 key 已过期了#xff1f;过期删除策略有哪些#xff1f;Redis 过期删除策略是什么#xff1f; 内存淘汰策略如何设置 Redis 最大运行内存#xff1f;Redis 内… Redis过期删除策略和内存淘汰策略有什么区别 前言过期删除策略如何设置过期时间如何判定 key 已过期了过期删除策略有哪些Redis 过期删除策略是什么 内存淘汰策略如何设置 Redis 最大运行内存Redis 内存淘汰策略有哪些LRU 算法和 LFU 算法有什么区别 总结 前言
Redis 的「内存淘汰策略」和「过期删除策略」很多小伙伴容易混淆这两个机制虽然都是做删除的操作但是触发的条件和使用的策略都是不同的。
今天就跟大家理一理「内存淘汰策略」和「过期删除策略」。
话不多说发车 过期删除策略
Redis 是可以对 key 设置过期时间的因此需要有相应的机制将已过期的键值对删除而做这个工作的就是过期键值删除策略。
如何设置过期时间
先说一下对 key 设置过期时间的命令。 设置 key 过期时间的命令一共有 4 个
expire 设置 key 在 n 秒后过期比如 expire key 100 表示设置 key 在 100 秒后过期pexpire 设置 key 在 n 毫秒后过期比如 pexpire key2 100000 表示设置 key2 在 100000 毫秒100 秒后过期。expireat 设置 key 在某个时间戳精确到秒之后过期比如 expireat key3 1655654400 表示 key3 在时间戳 1655654400 后过期精确到秒pexpireat 设置 key 在某个时间戳精确到毫秒之后过期比如 pexpireat key4 1655654400000 表示 key4 在时间戳 1655654400000 后过期精确到毫秒
当然在设置字符串时也可以同时对 key 设置过期时间共有 3 种命令
set ex 设置键值对的时候同时指定过期时间精确到秒set px 设置键值对的时候同时指定过期时间精确到毫秒setex 设置键值对的时候同时指定过期时间精确到秒。
如果你想查看某个 key 剩余的存活时间可以使用 TTL 命令。
# 设置键值对的时候同时指定过期时间位 60 秒setex key1 60 value1
OK# 查看 key1 过期时间还剩多少ttl key1
(integer) 56ttl key1
(integer) 52如果突然反悔取消 key 的过期时间则可以使用 PERSIST 命令。
# 取消 key1 的过期时间persist key1
(integer) 1# 使用完 persist 命令之后
# 查下 key1 的存活时间结果是 -1表明 key1 永不过期 ttl key1
(integer) -1
如何判定 key 已过期了
每当我们对一个 key 设置了过期时间时Redis 会把该 key 带上过期时间存储到一个过期字典expires dict中也就是说「过期字典」保存了数据库中所有 key 的过期时间。
过期字典存储在 redisDb 结构中如下
typedef struct redisDb {dict *dict; /* 数据库键空间存放着所有的键值对 */dict *expires; /* 键的过期时间 */....
} redisDb;过期字典数据结构结构如下
过期字典的 key 是一个指针指向某个键对象过期字典的 value 是一个 long long 类型的整数这个整数保存了 key 的过期时间
过期字典的数据结构如下图所示 字典实际上是哈希表哈希表的最大好处就是让我们可以用 O(1) 的时间复杂度来快速查找。当我们查询一个 key 时Redis 首先检查该 key 是否存在于过期字典中
如果不在则正常读取键值如果存在则会获取该 key 的过期时间然后与当前系统时间进行比对如果比系统时间大那就没有过期否则判定该 key 已过期。
过期键判断流程如下图所示 过期删除策略有哪些
在说 Redis 过期删除策略之前先跟大家介绍下常见的三种过期删除策略
定时删除惰性删除定期删除
接下来分别分析它们的优缺点。
定时删除策略是怎么样的
定时删除策略的做法是在设置 key 的过期时间时同时创建一个定时事件当时间到达时由事件处理器自动执行 key 的删除操作。
定时删除策略的优点
可以保证过期 key 会被尽快删除也就是内存可以被尽快地释放。因此定时删除对内存是最友好的。 定时删除策略的缺点
在过期 key 比较多的情况下删除过期 key 可能会占用相当一部分 CPU 时间在内存不紧张但 CPU 时间紧张的情况下将 CPU 时间用于删除和当前任务无关的过期键上无疑会对服务器的响应时间和吞吐量造成影响。所以定时删除策略对 CPU 不友好。
惰性删除策略是怎么样的
惰性删除策略的做法是不主动删除过期键每次从数据库访问 key 时都检测 key 是否过期如果过期则删除该 key。
惰性删除策略的优点
因为每次访问时才会检查 key 是否过期所以此策略只会使用很少的系统资源因此惰性删除策略对 CPU 时间最友好。 惰性删除策略的缺点
如果一个 key 已经过期而这个 key 又仍然保留在数据库中那么只要这个过期 key 一直没有被访问它所占用的内存就不会释放造成了一定的内存空间浪费。所以惰性删除策略对内存不友好。
定期删除策略是怎么样的
定期删除策略的做法是每隔一段时间「随机」从数据库中取出一定数量的 key 进行检查并删除其中的过期key。
定期删除策略的优点
通过限制删除操作执行的时长和频率来减少删除操作对 CPU 的影响同时也能删除一部分过期的数据减少了过期键对空间的无效占用。 定期删除策略的缺点
内存清理方面没有定时删除效果好同时没有惰性删除使用的系统资源少。 难以确定删除操作执行的时长和频率。如果执行的太频繁定期删除策略变得和定时删除策略一样对CPU不友好如果执行的太少那又和惰性删除一样了过期 key 占用的内存不会及时得到释放。
Redis 过期删除策略是什么
前面介绍了三种过期删除策略每一种都有优缺点仅使用某一个策略都不能满足实际需求。
所以 Redis 选择「惰性删除定期删除」这两种策略配和使用以求在合理使用 CPU 时间和避免内存浪费之间取得平衡。
Redis 是怎么实现惰性删除的
Redis 的惰性删除策略由 db.c 文件中的 expireIfNeeded 函数实现代码如下
int expireIfNeeded(redisDb *db, robj *key) {// 判断 key 是否过期if (!keyIsExpired(db,key)) return 0;..../* 删除过期键 */....// 如果 server.lazyfree_lazy_expire 为 1 表示异步删除反之同步删除return server.lazyfree_lazy_expire ? dbAsyncDelete(db,key) :dbSyncDelete(db,key);
}Redis 在访问或者修改 key 之前都会调用 expireIfNeeded 函数对其进行检查检查 key 是否过期
如果过期则删除该 key至于选择异步删除还是选择同步删除根据 lazyfree_lazy_expire 参数配置决定Redis 4.0版本开始提供参数然后返回 null 客户端 如果没有过期不做任何处理然后返回正常的键值对给客户端 惰性删除的流程图如下 Redis 是怎么实现定期删除的
再回忆一下定期删除策略的做法每隔一段时间「随机」从数据库中取出一定数量的 key 进行检查并删除其中的过期key。
这个间隔检查的时间是多长呢
在 Redis 中默认每秒进行 10 次过期检查一次数据库此配置可通过 Redis 的配置文件 redis.conf 进行配置配置键为 hz 它的默认值是 hz 10。
特别强调下每次检查数据库并不是遍历过期字典中的所有 key而是从数据库中随机抽取一定数量的 key 进行过期检查。
随机抽查的数量是多少呢
我查了下源码定期删除的实现在 expire.c 文件下的 activeExpireCycle 函数中其中随机抽查的数量由 ACTIVE_EXPIRE_CYCLE_LOOKUPS_PER_LOOP 定义的它是写死在代码中的数值是 20。
也就是说数据库每轮抽查时会随机选择 20 个 key 判断是否过期。
接下来详细说说 Redis 的定期删除的流程
从过期字典中随机抽取 20 个 key检查这 20 个 key 是否过期并删除已过期的 key如果本轮检查的已过期 key 的数量超过 5 个20/4也就是「已过期 key 的数量」占比「随机抽取 key 的数量」大于 25%则继续重复步骤 1如果已过期的 key 比例小于 25%则停止继续删除过期 key然后等待下一轮再检查。
可以看到定期删除是一个循环的流程。
那 Redis 为了保证定期删除不会出现循环过度导致线程卡死现象为此增加了定期删除循环流程的时间上限默认不会超过 25ms。
针对定期删除的流程我写了个伪代码
do {//已过期的数量expired 0//随机抽取的数量num 20;while (num--) {//1. 从过期字典中随机抽取 1 个 key//2. 判断该 key 是否过期如果已过期则进行删除同时对 expired}// 超过时间限制则退出if (timelimit_exit) return;/* 如果本轮检查的已过期 key 的数量超过 25%则继续随机抽查否则退出本轮检查 */
} while (expired 20/4); 定期删除的流程如下 内存淘汰策略
前面说的过期删除策略是删除已过期的 key而当 Redis 的运行内存已经超过 Redis 设置的最大内存之后则会使用内存淘汰策略删除符合条件的 key以此来保障 Redis 高效的运行。
如何设置 Redis 最大运行内存
在配置文件 redis.conf 中可以通过参数 maxmemory 来设定最大运行内存只有在 Redis 的运行内存达到了我们设置的最大运行内存才会触发内存淘汰策略。 不同位数的操作系统maxmemory 的默认值是不同的
在 64 位操作系统中maxmemory 的默认值是 0表示没有内存大小限制那么不管用户存放多少数据到 Redis 中Redis 也不会对可用内存进行检查直到 Redis 实例因内存不足而崩溃也无作为。 在 32 位操作系统中maxmemory 的默认值是 3G因为 32 位的机器最大只支持 4GB 的内存而系统本身就需要一定的内存资源来支持运行所以 32 位操作系统限制最大 3 GB 的可用内存是非常合理的这样可以避免因为内存不足而导致 Redis 实例崩溃。
Redis 内存淘汰策略有哪些
Redis 内存淘汰策略共有八种这八种策略大体分为「不进行数据淘汰」和「进行数据淘汰」两类策略。
不进行数据淘汰的策略
noevictionRedis3.0之后默认的内存淘汰策略 它表示当运行内存超过最大设置内存时不淘汰任何数据这时如果有新的数据写入会报错通知禁止写入不淘汰任何数据但是如果没用数据写入的话只是单纯的查询或者删除操作的话还是可以正常工作。
进行数据淘汰的策略
针对「进行数据淘汰」这一类策略又可以细分为「在设置了过期时间的数据中进行淘汰」和「在所有数据范围内进行淘汰」这两类策略。
在设置了过期时间的数据中进行淘汰
volatile-random随机淘汰设置了过期时间的任意键值volatile-ttl优先淘汰更早过期的键值。volatile-lruRedis3.0 之前默认的内存淘汰策略淘汰所有设置了过期时间的键值中最久未使用的键值volatile-lfuRedis 4.0 后新增的内存淘汰策略淘汰所有设置了过期时间的键值中最少使用的键值
在所有数据范围内进行淘汰
allkeys-random随机淘汰任意键值;allkeys-lru淘汰整个键值中最久未使用的键值allkeys-lfuRedis 4.0 后新增的内存淘汰策略淘汰整个键值中最少使用的键值。
如何查看当前 Redis 使用的内存淘汰策略
可以使用 config get maxmemory-policy 命令来查看当前 Redis 的内存淘汰策略命令如下
127.0.0.1:6379 config get maxmemory-policy
1) maxmemory-policy
2) noeviction可以看出当前 Redis 使用的是 noeviction 类型的内存淘汰策略它是 Redis 3.0 之后默认使用的内存淘汰策略表示当运行内存超过最大设置内存时不淘汰任何数据但新增操作会报错。 如何修改 Redis 内存淘汰策略 设置内存淘汰策略有两种方法
方式一通过“config set maxmemory-policy 策略”命令设置。它的优点是设置之后立即生效不需要重启 Redis 服务缺点是重启 Redis 之后设置就会失效。方式二通过修改 Redis 配置文件修改设置“maxmemory-policy 策略”它的优点是重启 Redis 服务后配置不会丢失缺点是必须重启 Redis 服务设置才能生效。
LRU 算法和 LFU 算法有什么区别
LFU 内存淘汰算法是 Redis 4.0 之后新增内存淘汰策略那为什么要新增这个算法那肯定是为了解决 LRU 算法的问题。
接下来就看看这两个算法有什么区别Redis 又是如何实现这两个算法的 什么是 LRU 算法 LRU 全称是 Least Recently Used 翻译为最近最少使用会选择淘汰最近最少使用的数据。
传统 LRU 算法的实现是基于「链表」结构链表中的元素按照操作顺序从前往后排列最新操作的键会被移动到表头当需要内存淘汰时只需要删除链表尾部的元素即可因为链表尾部的元素就代表最久未被使用的元素。
Redis 并没有使用这样的方式实现 LRU 算法因为传统的 LRU 算法存在两个问题
需要用链表管理所有的缓存数据这会带来额外的空间开销 当有数据被访问时需要在链表上把该数据移动到头端如果有大量数据被访问就会带来很多链表移动操作会很耗时进而会降低 Redis 缓存性能。 Redis 是如何实现 LRU 算法的 Redis 实现的是一种近似 LRU 算法目的是为了更好的节约内存它的实现方式是在 Redis 的对象结构体中添加一个额外的字段用于记录此数据的最后一次访问时间。
当 Redis 进行内存淘汰时会使用随机采样的方式来淘汰数据它是随机取 5 个值此值可配置然后淘汰最久没有使用的那个。
Redis 实现的 LRU 算法的优点
不用为所有的数据维护一个大链表节省了空间占用 不用在每次数据访问时都移动链表项提升了缓存的性能 但是 LRU 算法有一个问题无法解决缓存污染问题比如应用一次读取了大量的数据而这些数据只会被读取这一次那么这些数据会留存在 Redis 缓存中很长一段时间造成缓存污染。
因此在 Redis 4.0 之后引入了 LFU 算法来解决这个问题。 什么是 LFU 算法 LFU 全称是 Least Frequently Used 翻译为最近最不常用LFU 算法是根据数据访问次数来淘汰数据的它的核心思想是“如果数据过去被访问多次那么将来被访问的频率也更高”。
所以 LFU 算法会记录每个数据的访问次数。当一个数据被再次访问时就会增加该数据的访问次数。这样就解决了偶尔被访问一次之后数据留存在缓存中很长一段时间的问题相比于 LRU 算法也更合理一些。 Redis 是如何实现 LFU 算法的 LFU 算法相比于 LRU 算法的实现多记录了「数据的访问频次」的信息。Redis 对象的结构如下
typedef struct redisObject {...// 24 bits用于记录对象的访问信息unsigned lru:24; ...
} robj;Redis 对象头中的 lru 字段在 LRU 算法下和 LFU 算法下使用方式并不相同。
在 LRU 算法中Redis 对象头的 24 bits 的 lru 字段是用来记录 key 的访问时间戳因此在 LRU 模式下Redis可以根据对象头中的 lru 字段记录的值来比较最后一次 key 的访问时间长从而淘汰最久未被使用的 key。
在 LFU 算法中Redis对象头的 24 bits 的 lru 字段被分成两段来存储高 16bit 存储 ldt(Last Decrement Time)低 8bit 存储 logc(Logistic Counter)。 ldt 是用来记录 key 的访问时间戳logc 是用来记录 key 的访问频次它的值越小表示使用频率越低越容易淘汰每个新加入的 key 的logc 初始值为 5。
注意logc 并不是单纯的访问次数而是访问频次访问频率因为 logc 会随时间推移而衰减的。
在每次 key 被访问时会先对 logc 做一个衰减操作衰减的值跟前后访问时间的差距有关系如果上一次访问的时间与这一次访问的时间差距很大那么衰减的值就越大这样实现的 LFU 算法是根据访问频率来淘汰数据的而不只是访问次数。访问频率需要考虑 key 的访问是多长时间段内发生的。key 的先前访问距离当前时间越长那么这个 key 的访问频率相应地也就会降低这样被淘汰的概率也会更大。
对 logc 做完衰减操作后就开始对 logc 进行增加操作增加操作并不是单纯的 1而是根据概率增加如果 logc 越大的 key它的 logc 就越难再增加。
所以Redis 在访问 key 时对于 logc 是这样变化的
先按照上次访问距离当前的时长来对 logc 进行衰减然后再按照一定概率增加 logc 的值。
redis.conf 提供了两个配置项用于调整 LFU 算法从而控制 logc 的增长和衰减
lfu-decay-time 用于调整 logc 的衰减速度它是一个以分钟为单位的数值默认值为1lfu-decay-time 值越大衰减越慢lfu-log-factor 用于调整 logc 的增长速度lfu-log-factor 值越大logc 增长越慢。
总结
Redis 使用的过期删除策略是「惰性删除定期删除」删除的对象是已过期的 key。 内存淘汰策略是解决内存过大的问题当 Redis 的运行内存超过最大运行内存时就会触发内存淘汰策略Redis 4.0 之后共实现了 8 种内存淘汰策略我也对这 8 种的策略进行分类如下 完结撒花
答应我下次别再搞混了
