0

0

如何在Java中编写简单的负载均衡算法_轮询、随机与加权轮询在后端服务器选择的应用

P粉602998670

P粉602998670

发布时间:2026-03-14 12:35:01

|

560人浏览过

|

来源于php中文网

原创

轮询需用AtomicInteger避免并发问题,随机应选ThreadLocalRandom防竞争,加权轮询须累积权重再比较而非简单除法,生产环境优先使用Spring Cloud或Dubbo内置实现。

如何在java中编写简单的负载均衡算法_轮询、随机与加权轮询在后端服务器选择的应用

轮询算法怎么写才不掉坑

轮询(Round Robin)本质就是按顺序循环取服务器,但直接用 ArrayList 索引自增再取模容易出错——比如并发请求下多个线程同时读写同一个计数器,结果跳过节点或重复选中同一台机器。

真正安全的做法是用 AtomicInteger 做原子递增,再对服务器列表长度取模:

private final AtomicInteger counter = new AtomicInteger(0);
private final List<String> servers = Arrays.asList("192.168.1.10", "192.168.1.11", "192.168.1.12");
<p>public String select() {
int idx = Math.abs(counter.getAndIncrement()) % servers.size();
return servers.get(idx);
}
  • 别用 int 普通变量 + synchronized —— 锁粒度大,压测时吞吐明显下降
  • 注意 Math.abs() 是为了防止 Integer.MIN_VALUE 取反溢出导致负索引
  • 如果后端列表动态变更(如服务上下线),这个实现不会自动感知,得配合监听机制重置计数器

随机选择为什么不能直接用 Random.nextInt()

看起来最简单的随机算法,实际在流量分布上常被低估:单次调用 Random.nextInt(servers.size()) 没问题,但短时间高并发下,JVM 默认的 Random 是共享种子,多个线程争用同一实例会导致生成序列趋同,某些节点被集中打爆。

更稳的方式是每个调用线程用本地 ThreadLocal<Random>,或者直接用 ThreadLocalRandom

立即学习Java免费学习笔记(深入)”;

public String select() {
    int idx = ThreadLocalRandom.current().nextInt(servers.size());
    return servers.get(idx);
}
  • ThreadLocalRandom 比普通 Random 快 3–5 倍,且无竞争
  • 别在循环里反复新建 Random 实例——构造开销大,还可能因系统时间相近导致种子重复
  • 纯随机不保证均匀,100 次请求里某台机器被选中 40 次也正常;真要强均衡,得上带状态的算法(比如带计数的加权)

加权轮询的权重不是“除法”而是“累积+比较”

很多人以为加权轮询就是把权重当概率,用 Random.nextDouble() * totalWeight 找区间——那是加权随机,不是加权轮询。真正的加权轮询(Weighted Round Robin)核心是让高权重机器多走几轮,低权重少走,但整体仍保持“轮”的节奏。

PatentPal专利申请写作
PatentPal专利申请写作

AI软件来为专利申请自动生成内容

下载

推荐实现是维护每个节点的当前权重 currentWeight,每次选节点前先加上其原始权重,再选 currentWeight 最大的那个,最后减去总权重:

static class Server {
    String addr;
    int weight;
    int currentWeight;
}
<p>public String select(List<Server> servers) {
int total = 0;
for (Server s : servers) {
s.currentWeight += s.weight;
total += s.weight;
}
Server selected = servers.get(0);
for (Server s : servers) {
if (s.currentWeight > selected.currentWeight) {
selected = s;
}
}
selected.currentWeight -= total;
return selected.addr;
}
  • 这个算法能保证长期来看,各节点被选中的次数比 ≈ 权重比,且单次请求延迟稳定
  • 别用浮点数做权重(比如 0.3、0.7),整数更安全、无精度误差
  • 如果权重差异极大(比如 1 和 1000),小权重节点可能连续几十次不被选中——这不是 bug,是算法特性;需要“平滑”就得换 WRR 的变种(如 Nginx 的 smooth weighted round robin)

生产环境别自己从零写负载均衡逻辑

上面三个算法看似简单,但真放到微服务网关或 RPC 客户端里,还要处理健康检查、熔断降级、配置热更新、一致性哈希 fallback……这些边界情况叠加起来,自己写的几行代码很容易成为故障点。

更现实的选择是:

  • Spring Cloud LoadBalancer 已内置 RoundRobinLoadBalancerRandomLoadBalancer,支持权重扩展,且和 @LoadBalanced 集成自然
  • 如果用 Dubbo,直接配 loadbalance=roundrobinweight 属性就行,底层已做线程安全和权重归一化
  • 自研场景若必须手写,至少把服务器列表抽象为接口(ServerList),把选择逻辑抽成策略类(LoadBalanceStrategy),否则后续加故障剔除时改得头皮发麻

权重配置写死在代码里、没考虑服务注册中心下线通知、忽略 GC 导致 ThreadLocal 泄漏——这些才是上线后最常翻车的地方。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
spring框架介绍
spring框架介绍

本专题整合了spring框架相关内容,想了解更多详细内容,请阅读专题下面的文章。

161

2025.08.06

Java Spring Security 与认证授权
Java Spring Security 与认证授权

本专题系统讲解 Java Spring Security 框架在认证与授权中的应用,涵盖用户身份验证、权限控制、JWT与OAuth2实现、跨站请求伪造(CSRF)防护、会话管理与安全漏洞防范。通过实际项目案例,帮助学习者掌握如何 使用 Spring Security 实现高安全性认证与授权机制,提升 Web 应用的安全性与用户数据保护。

89

2026.01.26

nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

248

2023.07.27

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

522

2023.08.04

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

610

2023.08.04

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

244

2024.02.23

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

715

2024.07.09

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

3619

2024.08.07

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kotlin 教程
Kotlin 教程

共23课时 | 4.4万人学习

C# 教程
C# 教程

共94课时 | 11.3万人学习

Java 教程
Java 教程

共578课时 | 81.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号