0

0

使用Golang Bufio包优化IO性能_Scanner与Writer缓冲读写

P粉602998670

P粉602998670

发布时间:2026-02-25 13:56:03

|

727人浏览过

|

来源于php中文网

原创

scanner卡住或oom因默认64kb缓冲不足,超长行触发扩容和gc压力;应调buffer设上限,超大行改用reader;writer需合理flush避免丢失或退化;scanner与reader勿混用同一源;缓冲区非越大越好,需按场景权衡。

使用golang bufio包优化io性能_scanner与writer缓冲读写

Scanner 读大文件时卡住或 OOM,是因为没设缓冲区大小

默认 bufio.Scanner 的缓冲区只有 64KB,遇到超长行(比如日志里带大段 base64 或 JSON)直接报 scanner: token too long;更隐蔽的问题是,它内部用切片扩容,反复读取长行会触发大量内存分配,GC 压力陡增。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • bufio.NewScanner 后立刻调 Scaner.Buffer 设上限,例如处理可能含万字日志行:scanner.Buffer(make([]byte, 64*1024), 10*1024*1024)
  • 真要读超大行(如单行 GB 级),别硬扛 Scanner,换 bufio.Reader.ReadString('\n')ReadBytes 自己控缓冲和内存复用
  • 注意 Buffer 第二个参数是最大令牌长度,不是总读取量——它限制的是单次 Scan() 能吞下的字节数,不是文件总大小

Writer 写文件慢,多半是没启用或误用 Flush

bufio.Writer 不写满缓冲区就不会落盘,如果写完忘了 Flush(),数据卡在内存里,程序退出时可能丢失;但反过来,每写一行都 Flush(),等于退化成无缓冲 IO,性能比直接 os.Write 还差(多了函数调用和锁开销)。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • 写文件结尾必须显式调 writer.Flush(),defer 不可靠——panic 时可能跳过
  • 批量写结构化数据(如 CSV、JSON 行)时,按固定大小 flush,比如每 1MB 或每 1000 行后 Flush(),平衡延迟与内存占用
  • 如果底层是网络连接(如 HTTP response writer),Flush() 会真正推数据出去,此时要注意客户端是否在等流式响应,别过早或过晚 flush

Scanner 和 Reader 混用导致丢数据,因为底层 reader 被 Scanner 预读了

常见场景:先用 scanner.Scan() 读几行,再想用 reader.ReadString('\n') 继续读——结果发现少了一行。原因是 Scanner 内部用了自己的 bufio.Reader,预读时已把后续数据从源 reader 提前拽进缓冲,原始 reader 的位置已经偏移。

Cogniflow
Cogniflow

Cogniflow是一个无代码AISaas解决方案,允许用户创建和部署AI模型,

下载

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • 一个 io.Reader 实例只交给一个缓冲器用,不要 scanner 和 reader 交替操作同一源
  • 必须混用时,用 bufio.NewReader 显式创建 reader,再把它的指针传给 bufio.NewScanner,确保底层缓冲共享:r := bufio.NewReader(src); s := bufio.NewScanner(r)
  • 调试时可打印 r.Buffered()r.ReadBytes('\n') 看当前缓冲状态,验证是否丢数据

Bufio 缓冲大小设太大反而降低性能,尤其小文件或高频小写

缓冲区不是越大越好。设 1MB 缓冲写 1KB 文件,99% 是浪费;更麻烦的是,Go 的 bufio 在初始化时直接 make([]byte, size),大缓冲 = 大堆内存申请,GC 扫描压力上升;对 SSD 有写放大风险,对网络 socket 可能加剧 Nagle 算法延迟。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • 文件 IO:小文件(
  • 网络 IO:优先用系统默认(通常 4KB),除非明确测出 packet 合并收益;HTTP server 等高并发场景慎调,buffer 太大会挤占 goroutine 栈空间
  • 永远用 runtime.ReadMemStats 对比不同 buffer 下的 AllocBytesPauseNs,别猜

缓冲区是个开关,不是油门——开太小卡住,开太大憋着,中间那个点得靠真实数据打出来。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

智谱清言 - 免费全能的AI助手
智谱清言 - 免费全能的AI助手

智谱清言 - 免费全能的AI助手

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

242

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

350

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

405

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

365

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1111

2025.06.17

batoto漫画官网入口与网页版访问指南
batoto漫画官网入口与网页版访问指南

本专题系统整理batoto漫画官方网站最新可用入口,涵盖最新官网地址、网页版登录页面及防走失访问方式说明,帮助用户快速找到batoto漫画官方平台,稳定在线阅读各类漫画内容。

32

2026.02.25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.5万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号