限流是什么意思(抖音限流什么意思?)

2022-07-09 01:50:09 发布:网友投稿
热度:80

限流是什么意思?(限流在Tik Tok是什么意思?)

之前学习的时候没有接触过高并发/高流量这种东西,所以当然没有接触过限流。在查看公司的项目时,我发现使用RateLimiter很有用,顺便了解了一下。

一、限流基础知识介绍

关于你为什么要限制电流,我不需要多说什么。

比如周末去餐厅吃饭,但是人太多,只能去前台取号,号码到了才能进餐厅吃饭。如果酒店没有流量限制怎么办?饭一到,大家都冲进去,酒店又容不下这么多人,很容易出事(酒店人多,无路可走。酒店工作人员崩溃了,无法处理)

回到代码世界,也是如此。服务器可以处理的请求数量有限。如果请求的数量非常大,我们需要限制电流(要么让请求等待,要么扔掉它们)。

在代码世界中,有两种常见的电流限制算法:

令牌桶算法

漏桶

1.1什么是漏桶?

比如现在我有一个水桶,绿色的是我能装水的容量。如果超过我能容纳的容量,将水倒入桶中,水就会溢出(限流):

目前我们能知道的是:

水桶的容量是固定的(图中是绿色的)。

如果超过桶的容量,它将溢出(等待或直接丢弃)。

好了,现在让我们在桶里挖一个洞,这样水就可以从洞里流出来了:

桶孔的大小是固定的,所以水从孔中流出的速度也是固定的。

综上所述,该算法需要两个参数:

腹部容积

漏水率

漏桶有两种实现方式:

不允许突然流动:如果进水速度大于出水速度,多余的水将被直接丢弃。比如我的水桶可以装100L,但是我的水桶的出水量是10 L/s,这个时候如果现在有100L/s的水进来,我只会让10 L的水进入水桶,其余的都会受到限制。(限制请求的速度)

允许一定量的突流:我的水桶能装100升。如果我的水桶现在是空的话,这100 L的水都可以进我的水桶了。我以10L/s的速度排水,如果还有100L的水进来,我只能限制流量。

经过以上分析,我们知道:

漏桶可以平滑网络上的突发流量(因为漏水率是固定的)。

1.2什么是令牌桶算法

现在我又多了一个桶。这个桶用来装代币而不是水:

代币以一定的速度被扔进桶里。例如,我在一秒钟内向桶中扔出10个代币:

桶中可容纳的代币数量有上限。比如我的桶最多只能装1000个代币。

每次有请求进来,我都会去桶里拿令牌。

例如,如果我在这一秒钟内有1001个请求,我将去桶中获取1001个令牌。这时,可能有两种情况:

桶中没有1001个令牌,只有1000个,所以没有得到令牌的请求只能被阻止(等待)。

桶中有1001个令牌,所有请求都可以执行。

令牌桶算法支持网络上的突发流量。

* *漏桶和令牌桶的区别:*从上面的例子中,我们可以看到漏桶只能以固定的速率处理请求,而令牌桶可以处理桶中令牌数量最大的请求。

二,限速器的使用

RateLimiter是番石榴的一个限流组件,我的系统里用的,用起来非常方便。

引入pom依赖性:

RateLimiter基于令牌桶算法,API非常简单。请参见下面的演示:

从结果中我们可以看出,每秒只能执行三次:

三.分布式限流

限速器是一种单机限流元件。如果是分布式应用该怎么办?

可以用Redis+lua来实现,一般的lua脚本代码如下:

Java代码如下:

下一篇:广州的别称(广州的雅称是什么城啊)
上一篇:素数是什么意思(啥是素数?)