Node.js集群模式通过cluster模块创建主进程并派生多个工作进程，利用多核CPU提升性能；默认采用轮询负载均衡，可改用基于IP的会话保持策略；进程间状态共享需借助Redis等外部存储或通过master转发消息；支持滚动重启实现优雅停机，避免请求中断。
Node.js集群模式，简单来说，就是利用多核CPU的优势，让你的Node.js应用跑在多个进程上，从而提高性能和可靠性。配置起来其实没那么复杂，但有些坑需要注意。
解决方案
核心在于Node.js的
cluster模块。它的原理是创建一个master进程，然后master进程fork出多个worker进程。这些worker进程共享同一个server端口，由操作系统负责将连接分发给不同的worker。
最简单的例子：
const cluster = require('cluster');
const http = require('http');
const numCPUs = require('os').cpus().length;
if (cluster.isMaster) {
console.log(`Master ${process.pid} is running`);
// Fork workers.
for (let i = 0; i < numCPUs; i++) {
cluster.fork();
}
cluster.on('exit', (worker, code, signal) => {
console.log(`worker ${worker.process.pid} died`);
cluster.fork(); // 意外退出时重启worker
});
} else {
// Workers can share any TCP connection
// In this case it is an HTTP server
http.createServer((req, res) => {
res.writeHead(200);
res.end('hello world\n');
}).listen(8000);
console.log(`Worker ${process.pid} started`);
}这段代码做了什么？首先，判断当前进程是不是master进程。如果是，就fork出和CPU核心数一样多的worker进程。然后，监听
exit事件，如果worker进程意外退出，就重新fork一个新的。worker进程则负责启动HTTP服务器，监听8000端口。
这个例子虽然简单，但已经展示了集群模式的核心思想。
如何选择合适的负载均衡策略？
Node.js
cluster模块默认使用Round Robin（轮询）策略进行负载均衡。这意味着操作系统会按照顺序将连接分发给不同的worker进程。这种策略简单易用，但可能并不适合所有场景。
比如，如果你的应用中某些请求需要大量的CPU计算，那么轮询策略可能会导致某些worker进程负载过高，而其他worker进程则相对空闲。
更好的选择是使用Session Affinity（会话保持）策略。这种策略确保同一个客户端的请求总是被发送到同一个worker进程。实现会话保持的方式有很多种，比如可以使用IP地址、Cookie或者自定义的Session ID。
使用IP地址进行会话保持的例子：
const cluster = require('cluster');
const http = require('http');
const numCPUs = require('os').cpus().length;
const sticky = require('sticky-session');
if (cluster.isMaster) {
console.log(`Master ${process.pid} is running`);
const worker_index = (ip, len) => {
let s = '';
for (let i = 0, _len = ip.length; i < _len; i++) {
if (!isNaN(ip[i])) {
s += ip[i];
}
}
const number = Number(s);
return number % len;
};
const server = http.createServer((req, res) => {
res.writeHead(200);
res.end("hello world\n");
});
sticky.listen(server, 8000, { worker_index: worker_index });
for (let i = 0; i < numCPUs; i++) {
cluster.fork();
}
cluster.on('exit', (worker, code, signal) => {
console.log(`worker ${worker.process.pid} died`);
cluster.fork();
});
} else {
console.log(`Worker ${process.pid} started`);
}这段代码使用了
sticky-session模块来实现基于IP地址的会话保持。它定义了一个
worker_index函数，根据客户端的IP地址计算出一个索引，然后将请求发送到对应的worker进程。
当然，实际应用中，你可能需要更复杂的会话保持策略，比如使用Redis或者Memcached来存储Session信息。
如何处理worker进程间的状态共享？
在集群模式下，每个worker进程都是独立的，拥有自己的内存空间。这意味着worker进程之间不能直接共享状态。如果你的应用需要在worker进程之间共享状态，你需要使用一些额外的机制。
最常用的方法是使用外部存储，比如Redis或者Memcached。worker进程可以将状态存储到外部存储中，然后从外部存储中读取状态。
另一个方法是使用消息队列，比如RabbitMQ或者Kafka。worker进程可以通过消息队列来发送和接收消息，从而实现状态共享。
还有一个比较巧妙的方法是使用
cluster模块提供的
send方法。worker进程可以通过
process.send方法向master进程发送消息，master进程可以将消息转发给其他worker进程。
例如，假设你需要统计所有worker进程处理的请求总数。你可以这样做：
// Master进程
if (cluster.isMaster) {
let totalRequests = 0;
cluster.on('message', (worker, message) => {
if (message.cmd === 'increment') {
totalRequests++;
console.log(`Total requests: ${totalRequests}`);
}
});
// ... (fork workers)
} else {
// Worker进程
http.createServer((req, res) => {
res.writeHead(200);
res.end('hello world\n');
process.send({ cmd: 'increment' }); // 通知master进程增加请求计数
}).listen(8000);
// ...
}在这个例子中，worker进程每次处理一个请求后，都会向master进程发送一个
increment消息。master进程收到消息后，会将请求计数加1。
如何优雅地重启worker进程？
在生产环境中，你可能需要定期重启worker进程，比如为了更新代码或者释放资源。直接杀死worker进程可能会导致请求中断，影响用户体验。
一个更优雅的方法是使用滚动重启。滚动重启是指一次只重启一个worker进程，等新的worker进程启动并开始处理请求后，再重启下一个worker进程。
实现滚动重启的一种方式是使用
cluster模块的
disconnect方法。
disconnect方法会断开worker进程与master进程的连接，但不会立即杀死worker进程。worker进程可以继续处理已经建立的连接，直到所有连接都关闭后，才会自动退出。
你可以编写一个脚本来执行滚动重启：
const cluster = require('cluster');
function gracefulShutdown() {
console.log('Starting graceful shutdown...');
let workers = Object.values(cluster.workers);
let shuttingDown = 0;
function shutdownWorker(worker) {
shuttingDown++;
console.log(`Disconnecting worker ${worker.process.pid}...`);
worker.disconnect();
let killTimeout = setTimeout(() => {
console.log(`Force killing worker ${worker.process.pid}...`);
worker.kill('SIGKILL');
}, 10000); // 10秒后强制杀死worker
worker.on('disconnect', () => {
clearTimeout(killTimeout);
console.log(`Worker ${worker.process.pid} disconnected`);
shuttingDown--;
if (shuttingDown === 0) {
console.log('All workers disconnected. Exiting.');
process.exit(0);
}
});
}
workers.forEach(shutdownWorker);
}
process.on('SIGINT', gracefulShutdown); // Ctrl+C
process.on('SIGTERM', gracefulShutdown); // 容器停止信号这个脚本会监听
SIGINT和
SIGTERM信号，当收到信号时，会依次断开每个worker进程的连接。如果worker进程在10秒内没有退出，则会强制杀死它。
总结
Node.js集群模式是一个强大的工具，可以提高应用的性能和可靠性。但配置集群模式需要考虑很多因素，比如负载均衡策略、状态共享和优雅重启。希望这些信息能帮助你更好地理解和使用Node.js集群模式。
