构建自定义筛选器以处理N个请求,每个标识符的时间单位为M

存储以下形式的值 (time_rounded_off, count) . 只有在以下情况下才处理请求 time_rounded_off = current_time_rounded_off 和 count < max_count .

当舍入时间增加时,计数器将重置为0,然后再次开始处理。

这种设计有助于将业务规则保持在适当的位置,但如果处理突然爆发的请求对您的基础结构来说太困难,则这种设计就不好了。为此,我建议你保持冷静 exponential moving average 每秒处理的请求数。无论什么时候下降到足够低,你都可以接受另一个请求。

(timestamp, average) . 现在更新它的过程是将时间戳更新为当前时间戳,并将平均值乘以衰减因子(这取决于时间戳的差异)。如果你得到的请求比它能处理的要快,那么结果就是以正确的近似速率对它们进行采样。

现在有两个参数可以使用,衰减率和平均值。您可以选择特定的速率,即每小时360000次、每分钟6000次、每秒100次和每0.1秒10次。它们之间的区别在于你必须一次性处理的“突发”的潜在大小。

你可以去看看番石榴 RateLimiter

它是library类,但是javadoc很好地解释了它是如何在内部工作的。

最简短的版本是:它的工作原理有点像 Semaphore RateLimiter 输出允许以预定义的速率进行。

https://github.com/google/guava/blob/master/guava/src/com/google/common/util/concurrent/RateLimiter.java