0

0

如何高效处理 5000+ 用户的并发 HTTP 请求与数据库写入?

心靈之曲

心靈之曲

发布时间:2026-01-10 15:47:22

|

576人浏览过

|

来源于php中文网

原创

如何高效处理 5000+ 用户的并发 HTTP 请求与数据库写入?

node.js 中批量发送数千条 http 请求(如推送消息)并写入数据库,本质是 i/o 密集型任务,应优先使用原生异步机制(如 promise.allsettled + 限流控制),而非 worker threads;后者适用于 cpu 密集型计算,对网络请求无性能增益。

Node.js 的“内置异步 I/O 操作”指其基于 libuv 的非阻塞事件驱动模型:fs.readFile、http.request、axios、pg.query 等底层均通过线程池(有限大小,默认 4)委托系统调用,但上层 API 完全异步、无需手动管理线程——这意味着你发起 5000 个 Axios 请求时,Node.js 并不会创建 5000 个线程,而是复用事件循环和少量底层线程完成并发调度。

你描述的场景(为 5000+ 联系人:① 插入数据库记录;② 发起外部 API 请求)属于典型的 I/O 密集型任务,且高度依赖外部服务响应时间与速率限制。此时 Worker Threads 不仅无法加速,反而会因线程创建/通信开销降低整体吞吐,并增加内存占用与调试复杂度。

Sesame AI
Sesame AI

一款开创性的语音AI伴侣,具备先进的自然对话能力和独特个性。

下载

✅ 正确做法:使用可控并发 + 异步原语 + 限流策略
推荐采用 p-limit 库或手写限流器(如问题中提供的 rateLimiter 示例),将并发请求数限制在合理范围(例如 10–25),避免触发目标 API 的熔断、拒绝或 IP 封禁,同时保障数据库连接池不被耗尽:

const PLimit = require('p-limit');
const axios = require('axios');
const db = require('./db'); // 假设为 pg 或 prisma 实例

// 控制最大 15 个并发请求
const limit = PLimit(15);

async function sendMessagesToContacts(contacts) {
  const results = await Promise.allSettled(
    contacts.map(contact =>
      limit(async () => {
        try {
          // 1. 写入数据库(异步)
          await db.messageLogs.create({
            data: { contactId: contact.id, status: 'pending' }
          });

          // 2. 发送 HTTP 请求
          const res = await axios.post('https://api.example.com/send', {
            to: contact.phone,
            message: 'Hello!'
          }, { timeout: 10000 });

          await db.messageLogs.update({
            where: { contactId: contact.id },
            data: { status: 'success', response: JSON.stringify(res.data) }
          });

          return { success: true, contactId: contact.id };
        } catch (err) {
          await db.messageLogs.update({
            where: { contactId: contact.id },
            data: { status: 'failed', error: err.message }
          });
          throw err;
        }
      })
    )
  );

  const fulfilled = results.filter(r => r.status === 'fulfilled').length;
  const rejected = results.filter(r => r.status === 'rejected').length;
  console.log(`完成: ${fulfilled}, 失败: ${rejected}`);
}

// 调用示例
sendMessagesToContacts(all5000Contacts);

⚠️ 关键注意事项:

  • 永远不要无节制并发:Promise.all() 直接发起 5000 个请求极易导致 ECONNRESET、ENOTFOUND 或上游限流失败;必须限流。
  • 数据库事务粒度要细:每个联系人独立写日志,避免长事务阻塞连接池。
  • 错误需单独捕获与记录:使用 Promise.allSettled 而非 Promise.all,确保部分失败不影响整体流程。
  • 超时与重试需显式配置:Axios 的 timeout 和简单指数退避(如 retry-axios)可显著提升稳定性。
  • 监控与日志不可少:记录成功率、P95 响应延迟、失败原因,便于后续优化。

总结:面对 5000+ 用户的批量通知任务,专注优化异步 I/O 编排——用限流控制并发、用连接池管理数据库、用结构化日志追踪状态。Worker Threads 在此场景下是误用;真正的性能瓶颈从来不在 JavaScript 主线程,而在于网络延迟、第三方 API 吞吐与资源配额。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

530

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

576

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

760

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

6203

2023.08.17

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

492

2023.09.01

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
React 教程
React 教程

共58课时 | 6万人学习

TypeScript 教程
TypeScript 教程

共19课时 | 3.4万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 3.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号