0

0

如何利用Node.js流(Stream)处理大文件?

幻影之瞳

幻影之瞳

发布时间:2025-10-12 19:05:01

|

788人浏览过

|

来源于php中文网

原创

答案:Node.js流通过分块处理避免内存溢出,支持高效大文件操作。使用fs.createReadStream和createWriteStream结合pipe实现低内存文件复制,可链式调用Transform流如zlib进行实时压缩,同时监听error、finish等事件增强流程控制,确保稳定性和进度监控。

如何利用node.js流(stream)处理大文件?

处理大文件时,如果一次性读取到内存中,很容易导致内存溢出。Node.js 的 Stream(流)提供了一种高效、低内存消耗的方式来处理大文件。通过流式读取和写入,数据可以分块处理,避免将整个文件加载进内存。

理解 Node.js 流的基本类型

Node.js 中的流主要分为四种类型:

  • Readable:可读流,用于读取数据(如从文件读取)
  • Writable:可写流,用于写入数据(如写入文件)
  • Duplex:双工流,既可读又可写
  • Transform:转换流,在读写过程中对数据进行处理

处理大文件通常使用 Readable 和 Writable 流配合完成。

使用管道(pipe)高效复制大文件

最简单且高效的方式是使用 pipe() 方法,它自动处理背压(backpressure),无需手动管理数据流速。

const fs = require('fs');

// 创建可读流和可写流
const readStream = fs.createReadStream('large-file.txt');
const writeStream = fs.createWriteStream('copy-large-file.txt');

// 使用 pipe 将读取的数据直接写入目标文件
readStream.pipe(writeStream);

writeStream.on('finish', () => {
  console.log('文件复制完成');
});

这种方式内存占用极小,适合传输日志、视频、备份等大文件。

在流中处理数据(例如压缩或转换)

你可以插入 Transform 流来处理数据。比如使用 zlib 进行实时压缩:

阿里云AI平台
阿里云AI平台

阿里云AI平台

下载
const fs = require('fs');
const zlib = require('zlib');

const readStream = fs.createReadStream('large-file.txt');
const writeStream = fs.createWriteStream('large-file.txt.gz');
const gzip = zlib.createGzip();

// 读取 → 压缩 → 写入
readStream.pipe(gzip).pipe(writeStream);

这样可以在不增加内存负担的情况下完成文件压缩

监听事件以更好控制流程

虽然 pipe 很方便,但有时需要监听事件来处理错误或监控进度:

readStream.on('error', (err) => {
  console.error('读取失败:', err);
});

writeStream.on('error', (err) => {
  console.error('写入失败:', err);
});

writeStream.on('close', () => {
  console.log('写入流已关闭,任务完成');
});

也可以监听 data 事件手动消费数据块:

readStream.on('data', (chunk) => {
  console.log(`读取到 ${chunk.length} 字节`);
  // 可在此处处理 chunk,然后写入
  writeStream.write(chunk);
});

注意:一旦监听 data 事件,就不能再使用 pipe。

基本上就这些。用好 stream,大文件处理不再怕内存爆炸。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

492

2023.10.18

500error怎么解决
500error怎么解决

500error的解决办法有检查服务器日志、检查代码、检查服务器配置、更新软件版本、重新启动服务、调试代码和寻求帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

382

2023.10.25

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

531

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

576

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

761

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

6258

2023.08.17

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

492

2023.09.01

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 10.2万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 3.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号