Go 基于 Redis 通用频率控制的实现

SophiaOscar 发布于1年前

360搜索百科问答里通用的频率控制服务 Koala ,是用 GO 语言开发的后端独立服务。其中有两种控制的频率控制类型分别是

  • count (计数型)

  • leak (漏桶型)

这两种频率控制类型都是在指定范围时间 time 内,最多可以访问 count 次数,但究竟有什么区别呢?下面我们来看看他们的实现方式。

count(计数型)

count 类型直接利用 redis 的 setex() 来计数和设置时间。也就是,当第一次请求过来的时候,创建一个过期时间为 time 的 key ,并设置为 1 ,在接下去的时间内,每次请求过来通过的话 key 就加 1 ,当达到 count 的时候,就会禁止访问,直到 key 过期。

具体的实现如下:

rule.go

这种方法实现起来比较简单,但是这可能出现短时间流量暴增问题。比如,某个接口限制是 5 秒只能访问 3 次,在前 1 秒,只访问了一次,在 5 秒快过期的时候,突然访问了 2 次,在 6 秒的时候又访问了 3 次,相当于在 2 秒内访问了 5 次,流量短时间跟预期的比翻了一倍,所以后面添加了 漏桶型 来解决这个问题。

leak(漏桶型)

漏桶模式是基于漏桶算法,能够平滑网络上的流量,简单的讲就是在过去 time 秒内,访问次数不能超过 count 次,解决 count 流量倍增问题。

漏桶模式可以利用 redis 的 list 数据结构或 zset 数据结构来实现。

采用List的数据结构

存储设计和判别条件

  1. 采用 redis 的  list 数据结构,实现一种先进先出的队列。

  2. 队列的每个元素,存储一个时间戳,记录一次访问的时间。

  3. 漏桶大小为 count。

  4. 如果第 count 个元素的时间戳,距离当前时间,小于等于 time ,则说明漏桶有“溢出”。

过期元素清除

因为 redis 不能设置 list 里元素过期时间,所以需要手动删除,有两种方法:

  1. 可以在每次访问后清除队尾多余元素。

  2. 可以利用 go 协程进行异步处理,不影响速度。

可能出现一个key访问一段时间后突然不访问,导致内存浪费,还需要设置大于 time 的过期时间。

具体实现如下:

rule.go

采用Zset的数据结构

存储设计和判别条件

  1. 采用 redis 的  zset 数据结构,实现一种时间戳有序集合。

  2. 集合的每个元素,  member 和  score 都为时间戳(纳秒级别)。

  3. 漏桶大小为  count 。

  4. 如果在(当前时间戳 - time)的时间戳内元素的个数超过 count 则说明漏桶有“溢出”。

过期元素清除

和上面 list 数据结构基本类似,不同的是每次清理是清理 score 小于当前时间戳 - time的时间戳。

具体实现如下:

rule.go

问题模拟并解决

让我们来模拟上面count出现的问题并利用leak解决。

main.go

运行结果如下图所示,可以看出count类型在第5秒6秒的时候通过了5次,而leak时刻保持5秒内最多访问3次。

Go 基于 Redis 通用频率控制的实现

查看原文: Go 基于 Redis 通用频率控制的实现

  • smallleopard
  • beautifulmouse
  • smallduck
  • orangebird