0

0

使用Golang处理JSON流式数据_json.Decoder处理超大文件

P粉602998670

P粉602998670

发布时间:2026-02-22 17:29:55

|

817人浏览过

|

来源于php中文网

原创

json.decoder 更适合大文件因其边读边解析、内存占用低;而 json.unmarshal 需一次性加载全部数据易oom。

使用golang处理json流式数据_json.decoder处理超大文件

json.Decoder 为什么比 json.Unmarshal 更适合大文件

因为 json.Unmarshal 要把整个 JSON 字符串一次性读进内存再解析,1GB 的文件很可能直接 OOM;而 json.Decoder 是边读边解析,按需解码,内存占用基本只取决于单个对象大小。

典型场景:日志行是独立 JSON(每行一个对象)、API 返回的 streaming JSON(如 Server-Sent Events)、数据库导出的超大 JSON 数组。

  • 如果数据是 [{...}, {...}, {...}] 这种数组格式,必须先跳过 [、处理逗号分隔、识别 ] 结束——json.Decoder 自动处理这些,你只需反复调用 Decode()
  • 如果数据是换行分隔(NDJSON),直接对每行新建 json.NewDecoder(strings.NewReader(line)) 即可,但注意别在循环里频繁创建 Decoder 实例,复用更高效
  • 错误提示常是 invalid character '}' looking for beginning of value——多半是上一次 Decode() 没读完就重用了 Decoder,它内部缓冲区还留着残留字节

如何安全地流式解码 JSON 数组

很多人以为 json.Decoder 不能解数组,其实可以,只是得手动跳过开头的 [ 和结尾的 ],中间用循环逐个解码。

关键点在于:调用 Decode() 前,先用 Token() 吃掉左括号;每次成功解码后,检查下一个 token 是否为 ,],决定是否继续。

生活同城信息网系统
生活同城信息网系统

fankuan8生活同城信息网系统 v1206采用主流的Asp+Access开发设计,网站美工设计方面更大气,漂亮!网站浏览器兼容性也比较好,网站功能方面的细节方面十分强大。 网站程序的几大特点: 1.全站页面实行了伪静态化,各类型网站服务器的伪静态文件都已近处理好了,无需自己再做伪静态出来。 2.网站前台开始使用了fankuan8独立开发的互助链系统,开始使用时,在网站底部点击链接根据提示马上

下载

立即学习go语言免费学习笔记(深入)”;

  • d.Token() 获取第一个 token,确认是 json.Delim('{')json.Delim('['),否则提前退出
  • 数组内每个对象解码后,立刻调用 d.Token() 看下一个 token:如果是 ',',继续循环;如果是 ']',break;其他值(比如 '}')说明格式异常
  • 不要依赖 io.EOF 判断结束——数组末尾的 ] 不会触发 EOF,而是让下一次 Token() 返回 nil,需主动检测

遇到嵌套结构或未知字段时怎么避免 panic

json.Decoder 默认遇到 JSON 字段名在 struct 中没有对应字段,会静默忽略;但如果字段类型不匹配(比如 JSON 给了字符串,Go struct 定义为 int),就会报 json: cannot unmarshal string into Go struct field XXX of type int

  • 对可能缺失或类型不稳的字段,用指针类型(如 *string*int64),解码失败时该字段保持 nil,不会 panic
  • json.RawMessage 接收不确定结构的子字段,后续按需再解码,避免一次性强约束
  • 开启 DisallowUnknownFields():调用 d.DisallowUnknownFields() 可在遇到 struct 没定义的字段时立即报错,方便定位数据格式变更

性能瓶颈常卡在哪儿?几个实测有效的优化点

不是所有“流式”都快——如果解码逻辑本身有阻塞、IO 没缓冲、或频繁分配小对象,吞吐量照样上不去。

  • 给底层 io.Readerbufio.NewReaderSize(r, 64*1024),尤其读文件或网络流时,减少系统调用次数
  • 复用 struct 实例:在循环里用 var v MyStruct 而不是每次都 new(MyStruct),避免 GC 压力
  • 避免在 Decode() 循环里做耗时操作(如写 DB、HTTP 请求)——先批量收集,再异步处理,否则解码器实际在等 I/O
  • 如果目标是提取少量字段,考虑用 jsonitergjson 配合 bytes.IndexByte 手动切片,比完整解码快 3–5 倍,但 lose 类型安全

最易被忽略的是:decoder 的错误处理粒度。一次 Decode() 失败后,如果不重置 reader 位置或重建 decoder,后续所有解码都会失败——流式处理必须能容忍单条脏数据,而不是整批报废。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

239

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

348

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

404

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

365

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

198

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1051

2025.06.17

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

1030

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 9.5万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 3.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号