0

0

如何实现并发可控的异步请求队列(限流执行)

花韻仙語

花韻仙語

发布时间:2026-01-16 15:04:12

|

681人浏览过

|

来源于php中文网

原创

如何实现并发可控的异步请求队列(限流执行)

本文详解为何原始代码会陷入死循环,并提供一个真正可用的并发限制请求队列实现,支持“空闲即补发”策略(如3路并发、任一完成立即发起下个请求)。

前端开发中,对大量接口进行并发请求时,若不加控制,极易触发浏览器连接数限制、服务端限流或内存溢出等问题。一个常见需求是:最多同时发起 N 个请求,每当有请求完成,立即用下一个待请求的 endpoint 补位,保持通道尽可能饱和——这被称为“动态限流队列”或“滑动并发窗口”。

但直接使用 while + 同步 splice + 异步 fetch 的组合(如原代码)会导致严重问题:

❌ 原始代码为何崩溃?

while (endpoints.length > 0) {
  if (limit > 0) { // ← 第一次后 limit 变为 0,此后永远跳过此分支
    const slice = endpoints.splice(0, limit); // ← endpoints 被修改,但仅第一次执行
    for (const endpoint of slice) {
      limit--; // ← limit 快速归零
      fetchMock(endpoint).finally(() => limit++); // ← Promise 回调异步执行,但同步 while 永不停止!
    }
  }
}

关键错误在于:

Question AI
Question AI

一款基于大模型的免费的AI问答助手、总结器、AI搜索引擎

下载
  • limit-- 在同步循环中迅速归零,导致 if (limit > 0) 后续恒为 false;
  • Promise.then().finally() 是微任务,必须等当前同步清空后才执行;
  • 而 while 循环永不退出 → 同步栈永不清空 → 所有 .finally() 永不运行 → limit++ 永不发生 → 死锁。
✅ 核心原则:不能在同步循环中依赖异步回调来驱动流程控制。

✅ 正确解法:基于 Promise 链与递归调度的动态队列

我们改用「主动调度」模型:维护一个全局索引 offset,每次成功/失败后检查是否还有待请求项,有则立即发起新请求:

let offset = 0;

const requestQueue = (endpoints, callback, limit = 3) => {
  // 初始启动:并发发出前 limit 个请求
  if (offset === 0) {
    for (let i = 0; i < Math.min(limit, endpoints.length); i++) {
      makeRequest(endpoints, callback);
    }
  }
};

function makeRequest(endpoints, callback) {
  if (offset >= endpoints.length) return;

  const current = endpoints[offset++];
  console.log(`[REQ] ${current} (concurrency: ${offset - 1})`);

  fetchMock(current)
    .then(data => callback(null, data)) // 推荐区分 success/error
    .catch(err => callback(err, null))
    .finally(() => {
      // 请求结束,若有剩余 endpoint,立即发起下一个
      if (offset < endpoints.length) {
        makeRequest(endpoints, callback);
      }
    });
}

// 模拟带随机延迟的请求
function fetchMock(endpoint) {
  const delay = Math.floor(Math.random() * 3000) + 1000;
  return new Promise(resolve => 
    setTimeout(() => resolve(`result-${endpoint}`), delay)
  );
}

// 使用示例:5 个 endpoint,最多 3 个并发
requestQueue([1, 2, 3, 4, 5], (err, data) => {
  if (err) console.error('[ERR]', err);
  else console.log('[OK]', data);
});

✅ 进阶优化建议

  1. 避免全局变量:将 offset 封装为闭包或类实例属性,支持多队列并行;
  2. 错误隔离:单个请求失败不应阻塞整个队列,.catch() 后仍应 makeRequest();
  3. 取消能力:可引入 AbortController,配合 signal 参数增强健壮性;
  4. 返回 Promise.allSettled 结果:如需汇总全部响应,可在所有请求完成后 resolve 数组。

? 总结

  • ✅ 正确思路:用「完成即调度」替代「预分配+同步等待」;
  • ✅ 关键机制:offset 索引 + 递归 makeRequest + finally 触发后续;
  • ❌ 绝对避免:在同步循环中修改控制变量并依赖异步回调恢复它;
  • ? 提升可维护性:考虑使用成熟库如 p-limit 或 Promise.map(..., { concurrency: 3 })(via p-map)。

该模式不仅适用于 mock 请求,也完全兼容真实 fetch、axios 等场景,是构建高可靠批量数据加载器的基础范式。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

738

2023.08.22

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

88

2023.09.25

全局变量怎么定义
全局变量怎么定义

本专题整合了全局变量相关内容,阅读专题下面的文章了解更多详细内容。

77

2025.09.18

python 全局变量
python 全局变量

本专题整合了python中全局变量定义相关教程,阅读专题下面的文章了解更多详细内容。

96

2025.09.18

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1019

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

63

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

412

2025.12.29

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

389

2023.07.18

高德地图升级方法汇总
高德地图升级方法汇总

本专题整合了高德地图升级相关教程,阅读专题下面的文章了解更多详细内容。

2

2026.01.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Node.js 教程
Node.js 教程

共57课时 | 8.7万人学习

CSS3 教程
CSS3 教程

共18课时 | 4.6万人学习

Vue 教程
Vue 教程

共42课时 | 6.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号