0

0

使用Node.js Streams处理大文件

夢幻星辰

夢幻星辰

发布时间:2025-10-31 22:26:03

|

264人浏览过

|

来源于php中文网

原创

Node.js Streams 是处理大文件的关键技术,通过分块读写避免内存溢出。它提供 Readable、Writable、Duplex 和 Transform 四种流类型,支持数据的逐段传输与处理。使用 fs.createReadStream 和 createWriteStream 可实现文件复制,配合 pipe() 方法简化数据流动。需进行数据转换时,可用 Transform 流处理中间环节,如文本转大写。为确保稳定性,应监听 error 事件或使用 pipeline 函数统一管理错误与资源清理,从而高效安全地处理大规模数据流。

使用node.js streams处理大文件

处理大文件时,直接读取整个文件到内存中会导致内存溢出或性能严重下降。Node.jsStreams 提供了一种高效、低内存消耗的方式来处理大文件。通过流式读取和写入,数据可以分块处理,避免一次性加载全部内容。

什么是 Node.js Streams?

Stream 是 Node.js 中用于处理流数据的内置模块,特别适用于读取或写入大量数据的场景。它允许你以“管道”方式逐块处理数据,而不是一次性加载全部内容。

常见的 Stream 类型有:

  • Readable:可读流(如读取文件)
  • Writable:可写流(如写入文件)
  • Duplex:双工流(既可读又可写)
  • Transform:转换流(对数据进行处理后再输出)

使用 Readable 和 Writable 流处理大文件

借助 fs.createReadStreamfs.createWriteStream,你可以轻松实现大文件的复制或处理。

示例:复制一个大文件

const fs = require('fs');
const readStream = fs.createReadStream('large-file.txt');
const writeStream = fs.createWriteStream('copy-large-file.txt');

readStream.on('data', (chunk) => {
  writeStream.write(chunk);
});

readStream.on('end', () => {
  writeStream.end();
});

更简洁的方式是使用 pipe() 方法,自动处理数据块的流动:

readStream.pipe(writeStream);

pipe 会自动监听 data 和 end 事件,并将读取的每个数据块写入目标流,代码更清晰且不易出错。

佳可商务购物程序 2004
佳可商务购物程序 2004

在原版的基础上做了一下修正评论没有提交正文的问题特价商品的调用连接问题去掉了一个后门补了SQL注入补了一个过滤漏洞浮动价不能删除的问题不能够搜索问题收藏时放入购物车时出错点放入购物车弹出2个窗口修正主题添加问题商家注册页导航连接问题销售排行不能显示更多问题热点商品不能显示更多问题增加了服务器探测 增加了空间使用查看 增加了在线文件编辑增加了后台管理里两处全选功能更新说明:后台的部分功能已经改过前台

下载

在流中处理数据(Transform Stream)

如果需要在传输过程中修改数据(例如压缩、转码、过滤),可以使用 Transform 流。

示例:将文本转为大写并保存

const { Transform } = require('stream');

const toUpperCaseTransform = new Transform({
  transform(chunk, encoding, callback) {
    callback(null, chunk.toString().toUpperCase());
  }
});

const readStream = fs.createReadStream('input.txt');
const writeStream = fs.createWriteStream('output.txt');

readStream
  .pipe(toUpperCaseTransform)
  .pipe(writeStream);

在这个例子中,每个数据块都会被转换成大写后再写入目标文件。

错误处理和资源清理

流操作可能因权限、磁盘空间或文件不存在而出错。务必监听 error 事件,避免程序崩溃。

readStream.on('error', (err) => {
  console.error('读取失败:', err);
});

writeStream.on('error', (err) => {
  console.error('写入失败:', err);
});

writeStream.on('finish', () => {
  console.log('文件写入完成');
});

使用 pipeline 可以更优雅地处理流并自动管理错误:

const { pipeline } = require('stream');

pipeline(
  readStream,
  toUpperCaseTransform,
  writeStream,
  (err) => {
    if (err) {
      console.error('流处理失败:', err);
    } else {
      console.log('大功告成!');
    }
  }
);

基本上就这些。用好 Streams,再大的文件也能轻松应对。关键是别把数据全塞进内存,让它们“流”起来。不复杂但容易忽略。

相关专题

更多
scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

188

2023.10.18

500error怎么解决
500error怎么解决

500error的解决办法有检查服务器日志、检查代码、检查服务器配置、更新软件版本、重新启动服务、调试代码和寻求帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

288

2023.10.25

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

510

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

244

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

258

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

5292

2023.08.17

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

478

2023.09.01

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

212

2023.09.04

AO3中文版入口地址大全
AO3中文版入口地址大全

本专题整合了AO3中文版入口地址大全,阅读专题下面的的文章了解更多详细内容。

1

2026.01.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 8.4万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 3.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号