0

0

如何实现并发可控的异步请求队列(限流执行)

花韻仙語

花韻仙語

发布时间:2026-01-16 15:04:12

|

681人浏览过

|

来源于php中文网

原创

如何实现并发可控的异步请求队列(限流执行)

本文详解为何原始代码会陷入死循环,并提供一个真正可用的并发限制请求队列实现,支持“空闲即补发”策略(如3路并发、任一完成立即发起下个请求)。

前端开发中,对大量接口进行并发请求时,若不加控制,极易触发浏览器连接数限制、服务端限流或内存溢出等问题。一个常见需求是:最多同时发起 N 个请求,每当有请求完成,立即用下一个待请求的 endpoint 补位,保持通道尽可能饱和——这被称为“动态限流队列”或“滑动并发窗口”。

但直接使用 while + 同步 splice + 异步 fetch 的组合(如原代码)会导致严重问题:

❌ 原始代码为何崩溃?

while (endpoints.length > 0) {
  if (limit > 0) { // ← 第一次后 limit 变为 0,此后永远跳过此分支
    const slice = endpoints.splice(0, limit); // ← endpoints 被修改,但仅第一次执行
    for (const endpoint of slice) {
      limit--; // ← limit 快速归零
      fetchMock(endpoint).finally(() => limit++); // ← Promise 回调异步执行,但同步 while 永不停止!
    }
  }
}

关键错误在于:

Memo AI
Memo AI

AI音视频转文字及字幕翻译工具

下载
  • limit-- 在同步循环中迅速归零,导致 if (limit > 0) 后续恒为 false;
  • Promise.then().finally() 是微任务,必须等当前同步清空后才执行;
  • 而 while 循环永不退出 → 同步栈永不清空 → 所有 .finally() 永不运行 → limit++ 永不发生 → 死锁。
✅ 核心原则:不能在同步循环中依赖异步回调来驱动流程控制。

✅ 正确解法:基于 Promise 链与递归调度的动态队列

我们改用「主动调度」模型:维护一个全局索引 offset,每次成功/失败后检查是否还有待请求项,有则立即发起新请求:

let offset = 0;

const requestQueue = (endpoints, callback, limit = 3) => {
  // 初始启动:并发发出前 limit 个请求
  if (offset === 0) {
    for (let i = 0; i < Math.min(limit, endpoints.length); i++) {
      makeRequest(endpoints, callback);
    }
  }
};

function makeRequest(endpoints, callback) {
  if (offset >= endpoints.length) return;

  const current = endpoints[offset++];
  console.log(`[REQ] ${current} (concurrency: ${offset - 1})`);

  fetchMock(current)
    .then(data => callback(null, data)) // 推荐区分 success/error
    .catch(err => callback(err, null))
    .finally(() => {
      // 请求结束,若有剩余 endpoint,立即发起下一个
      if (offset < endpoints.length) {
        makeRequest(endpoints, callback);
      }
    });
}

// 模拟带随机延迟的请求
function fetchMock(endpoint) {
  const delay = Math.floor(Math.random() * 3000) + 1000;
  return new Promise(resolve => 
    setTimeout(() => resolve(`result-${endpoint}`), delay)
  );
}

// 使用示例:5 个 endpoint,最多 3 个并发
requestQueue([1, 2, 3, 4, 5], (err, data) => {
  if (err) console.error('[ERR]', err);
  else console.log('[OK]', data);
});

✅ 进阶优化建议

  1. 避免全局变量:将 offset 封装为闭包或类实例属性,支持多队列并行;
  2. 错误隔离:单个请求失败不应阻塞整个队列,.catch() 后仍应 makeRequest();
  3. 取消能力:可引入 AbortController,配合 signal 参数增强健壮性;
  4. 返回 Promise.allSettled 结果:如需汇总全部响应,可在所有请求完成后 resolve 数组。

? 总结

  • ✅ 正确思路:用「完成即调度」替代「预分配+同步等待」;
  • ✅ 关键机制:offset 索引 + 递归 makeRequest + finally 触发后续;
  • ❌ 绝对避免:在同步循环中修改控制变量并依赖异步回调恢复它;
  • ? 提升可维护性:考虑使用成熟库如 p-limit 或 Promise.map(..., { concurrency: 3 })(via p-map)。

该模式不仅适用于 mock 请求,也完全兼容真实 fetch、axios 等场景,是构建高可靠批量数据加载器的基础范式。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

846

2023.08.22

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

105

2023.09.25

全局变量怎么定义
全局变量怎么定义

本专题整合了全局变量相关内容,阅读专题下面的文章了解更多详细内容。

93

2025.09.18

python 全局变量
python 全局变量

本专题整合了python中全局变量定义相关教程,阅读专题下面的文章了解更多详细内容。

106

2025.09.18

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1902

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

656

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2387

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

47

2026.01.19

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Node.js 教程
Node.js 教程

共57课时 | 13.1万人学习

CSS3 教程
CSS3 教程

共18课时 | 7万人学习

Vue 教程
Vue 教程

共42课时 | 9.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号