限流通过设定请求速率限制来保护系统资源，确保服务稳定性和响应性能。常见算法包括：1. 计数器算法：简单但可能导致突发流量。2. 漏桶算法：稳定但可能积压请求。3. 令牌桶算法：灵活处理突发流量，但实现复杂。
限流（Rate Limiting）是如何在高并发场景下保护系统资源的呢？限流可以防止系统被过多的请求压垮，确保服务的稳定性和响应性能。通过设定请求速率限制，限流策略可以有效地管理系统负载，避免资源耗尽导致的服务中断。
限流的实现方式多种多样，从简单的计数器算法到复杂的漏桶、令牌桶算法，每一种都有其适用场景和优缺点。在实际应用中，选择合适的限流算法不仅能保护系统，还能优化用户体验。
限流的核心在于限制请求的速率，常见的算法包括：
- 计数器算法：简单易实现，但存在时间窗口问题，可能会导致突发流量。
- 漏桶算法：请求就像水滴从桶中漏出，稳定但可能导致请求积压。
- 令牌桶算法：更灵活，能够处理突发流量，但实现复杂度较高。
在实际开发中，我曾使用过令牌桶算法来实现限流。它的优点在于可以应对突发流量，同时又能保证长期的请求速率稳定。以下是一个使用令牌桶算法实现限流的Java代码示例：
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicLong;
public class TokenBucketRateLimiter {
private final long capacity;
private final long refillRate;
private final TimeUnit refillUnit;
private final AtomicLong tokens;
private long lastRefillTimestamp;
public TokenBucketRateLimiter(long capacity, long refillRate, TimeUnit refillUnit) {
this.capacity = capacity;
this.refillRate = refillRate;
this.refillUnit = refillUnit;
this.tokens = new AtomicLong(capacity);
this.lastRefillTimestamp = System.currentTimeMillis();
}
public boolean tryAcquire() {
refill();
return tokens.getAndUpdate(current -> current > 0 ? current - 1 : current) > 0;
}
private void refill() {
long now = System.currentTimeMillis();
long elapsed = now - lastRefillTimestamp;
long newTokens = elapsed * refillRate / refillUnit.toMillis(1);
if (newTokens > 0) {
tokens.accumulateAndGet(newTokens, (current, update) -> Math.min(capacity, current + update));
lastRefillTimestamp = now;
}
}
public static void main(String[] args) throws InterruptedException {
TokenBucketRateLimiter limiter = new TokenBucketRateLimiter(10, 1, TimeUnit.SECONDS);
for (int i = 0; i < 20; i++) {
if (limiter.tryAcquire()) {
System.out.println("Request " + (i + 1) + " allowed");
} else {
System.out.println("Request " + (i + 2) + " denied");
}
TimeUnit.MILLISECONDS.sleep(500);
}
}
}这个实现中，TokenBucketRateLimiter类通过维护一个令牌桶来控制请求速率。tryAcquire方法尝试获取一个令牌，如果成功则请求通过，否则请求被拒绝。refill方法定期补充令牌，以保持请求速率的稳定性。
在实际使用中，我发现令牌桶算法虽然强大，但也有一些需要注意的点：
- 突发流量处理：令牌桶算法允许一定程度的突发流量，这在某些场景下可能不利于系统的稳定性，需要根据实际情况调整桶的容量和补充速率。
-
并发安全：在高并发环境下，需要确保令牌桶的操作是线程安全的，上面的代码使用了
AtomicLong来保证这一点。 - 性能开销：虽然令牌桶算法的实现相对复杂，但其性能开销通常是可以接受的，尤其是在高并发场景下。
在选择限流算法时，除了考虑算法本身的特性，还需要结合具体业务场景。例如，对于需要严格控制请求速率的系统，漏桶算法可能更合适；而对于需要处理突发流量的系统，令牌桶算法则更为理想。
最后，分享一个小经验：在实施限流时，不要忽视对用户体验的考虑。适当的限流策略不仅能保护系统，还能让用户感受到服务的稳定性和可靠性。例如，可以通过返回适当的错误码和提示信息，帮助用户理解当前的请求状态，而不是简单地拒绝请求。
