接口限流:令牌桶和漏桶该怎么选
两种模型都能限制速率,但对突发流量的态度不同。选型的关键是业务能不能容忍排队。
两种模型在做什么
令牌桶按固定速率往桶里放令牌,请求取到令牌才被放行,桶的容量决定了突发上限。
漏桶以固定速率流出,进入桶里的请求排队等待,输出始终平滑。
突发流量怎么处理
差别在于对突发的态度,令牌桶允许短时突发,漏桶更强调稳定输出。
面向用户的查询接口通常选令牌桶,短时高峰不该被直接拒绝。
实现成本
对下游保护场景更适合漏桶,比如写入数据库或调用第三方服务。
实现成本上,令牌桶多一个容量参数,代码稍复杂,但语义清晰。
放在哪一层
漏桶的排队会带来延迟,队列长度需要设上限,否则请求等到超时也拿不到结果。
限流的位置可以在网关、应用或客户端,越靠前越省资源,越靠后越精准。
参数怎么定
多实例部署时,计数要放在共享存储,否则每个实例各自限额,总量会翻倍。
参数确定应先看下游容量,再结合业务峰值,拍脑袋定数字容易误伤。
限流之外还要有降级策略,超限时返回明确提示,比直接超时体验更好。
选型没有标准答案,先回答能不能等,再决定用哪个桶。
本文由好力百信息网编辑部整理撰写,观点仅供参考;转载请注明来源与链接。
读者留言
共 3 条 · 精选展示后
后端阿凯2026-11-20
先看下游容量再定参数,我们就是这么改的。
网
网关运维2026-11-20
多实例共享计数,这点太重要。
读
长期读者2026-11-20
能不能等,总结得干脆。