0

0

高效处理大规模 JSON 序列化:避免字符串拼接导致的内存爆炸

霞舞

霞舞

发布时间:2026-03-10 13:04:08

|

720人浏览过

|

来源于php中文网

原创

本文介绍如何在 Go 中高效地将结构体切片序列化为换行分隔的 JSON 字符串,重点解决因频繁字符串拼接(+=)引发的内存分配失控问题,并推荐使用 bytes.Buffer 实现零拷贝式累积写入。

本文介绍如何在 go 中高效地将结构体切片序列化为换行分隔的 json 字符串,重点解决因频繁字符串拼接(`+=`)引发的内存分配失控问题,并推荐使用 `bytes.buffer` 实现零拷贝式累积写入。

在 Go 中,将一组结构体逐个序列化为 JSON 并以换行符分隔(即 NDJSON / JSON Lines 格式),是日志导出、流式 API 响应或大数据批处理中的常见需求。但若采用原始字符串拼接方式(如 buffer += string(body) + "\n"),会因 Go 字符串不可变特性,每次拼接都触发新内存分配与整块内容复制——当 all_data 规模达数千条以上时,内存占用呈平方级增长,极易触发 OOM。

根本原因在于:string(body) 将 []byte 转为字符串虽无额外数据拷贝,但后续 += 操作会不断创建更大底层数组并复制全部历史内容;而 bytes.Buffer 内部基于可扩容的 []byte 切片,通过预分配和追加(Write, WriteString)实现接近 O(1) 的均摊写入开销。

艺映AI
艺映AI

艺映AI - 免费AI视频创作工具

下载

✅ 推荐方案:使用 bytes.Buffer 累积写入
以下为优化后的完整示例:

package main

import (
    "bytes"
    "encoding/json"
    "fmt"
)

type User struct {
    ID   int    `json:"id"`
    Name string `json:"name"`
}

func main() {
    allData := []User{
        {ID: 1, Name: "Alice"},
        {ID: 2, Name: "Bob"},
        {ID: 3, Name: "Charlie"},
    }

    var buf bytes.Buffer // 零初始化,内部切片初始容量通常为 0 或 64,自动扩容

    for _, record := range allData {
        body, err := json.Marshal(record)
        if err != nil {
            panic(fmt.Sprintf("failed to marshal record %+v: %v", record, err))
        }
        buf.Write(body)      // 直接写入 []byte,无转换开销
        buf.WriteByte('\n')  // 更轻量:WriteByte 比 WriteString("\n") 少一次 slice 创建
    }

    result := buf.String() // 仅在最终需要字符串时调用,触发一次拷贝
    fmt.Print(result)
}

? 关键优化点说明:

  • 避免 string(body) + "\n":消除不必要的字符串转换与重复内存分配;
  • 优先 buf.WriteByte('\n'):比 buf.WriteString("\n") 更高效(后者需构造长度为 1 的 []byte);
  • 错误处理不可省略json.Marshal 可能失败(如含不可序列化字段),生产代码中必须检查 err;
  • 如需极致性能且最终输出为 []byte:直接使用 buf.Bytes() 替代 buf.String(),避免最后一次拷贝(注意:Bytes() 返回的切片与 buffer 共享底层数组,后续写入可能影响其内容);
  • 预分配容量(可选):若预估总大小,可 buf.Grow(n) 减少扩容次数,例如 buf.Grow(len(allData) * 256)。

? 总结:字符串拼接是 Go 初学者常见的性能陷阱。面对批量序列化场景,始终优先选用 bytes.Buffer 或 strings.Builder(后者专为字符串构建优化,Go 1.10+)。二者均通过可增长字节切片实现高效累积,将时间复杂度从 O(n²) 降至 O(n),显著提升吞吐量并稳定内存占用。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

210

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

247

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

356

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

214

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

407

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

490

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1397

2025.06.17

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

24

2026.03.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 10.1万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 3.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号