0

0

如何在Golang中优化GORM的批量插入性能 Go语言CreateInBatches用法

P粉602998670

P粉602998670

发布时间:2026-03-11 16:40:03

|

679人浏览过

|

来源于php中文网

原创

createinbatches 比循环 create 快得多,因其将多条记录合并为单条批量 insert 语句执行,跳过逐条事务开销、减少网络往返与 sql 解析,并仅触发一次 beforecreate/aftercreate 钩子;默认每批 100 条,需注意参数顺序、返回值检查方式及空切片安全行为。

如何在golang中优化gorm的批量插入性能 go语言createinbatches用法

为什么 CreateInBatches 比循环 Create 快得多

因为单条 Create 默认开启事务、走完整钩子链(BeforeCreateAfterCreate)、每条都触发一次 SQL 解析和网络往返;而 CreateInBatches 把多条记录合并成一批,用一条 INSERT INTO ... VALUES (...), (...), (...) 执行,跳过中间事务开销,钩子也只跑一次(除非显式开启 AllowGlobalUpdate 或手动控制)。

常见错误现象:for _, u := range users { db.Create(&u) } 插入 1000 条耗时 3s+;换成 CreateInBatches 后降到 200ms 左右——差距主要来自 TCP 往返和事务 commit 频率。

  • 默认每批 100 条(db.CreateInBatches(users, 100)),不是越多越好:MySQL 单次 INSERT 有 max_allowed_packet 限制,超限会报错 ERROR 1153 (08S01): Got a packet bigger than 'max_allowed_packet' bytes
  • PostgreSQL 对 VALUES 列表长度也有硬限制(约 65535 个参数),实际建议单批 ≤ 5000 条
  • 如果结构体带 gorm.Model,自增 ID 在批量插入后不会自动回填到 struct 中(这是 GORM 的设计取舍,不是 bug)

CreateInBatches 必须注意的参数顺序和返回值

函数签名是 db.CreateInBatches(value interface{}, batchSize int),第一个参数必须是切片([]User),不能传指针切片(*[]User)或单个 struct;batchSize 小于等于 0 会 panic,等于 1 就退化成逐条插入,失去意义。

返回值是 *gorm.DB,不是错误 —— 错误需通过 db.Error 检查。很多人写成 if err := db.CreateInBatches(...); err != nil,这是错的,编译都不过。

立即学习go语言免费学习笔记(深入)”;

拍我AI
拍我AI

AI视频生成平台PixVerse的国内版本

下载
  • 正确写法:result := db.CreateInBatches(users, 100); if result.Error != nil { /* handle */ }
  • 想获取影响行数?用 result.RowsAffected,它返回的是**总插入条数**,不是“最后一批”的数量
  • 如果切片为空,CreateInBatches 不执行 SQL,RowsAffected 为 0,Error 为 nil —— 这是安全的,不用额外判空

批量插入时钩子(Callbacks)的行为差异

CreateInBatches 默认绕过大部分创建钩子:只有 BeforeCreateAfterCreate 会在**整批开始前 / 结束后各执行一次**,而不是每条记录都执行。这对性能是好事,但容易引发逻辑错位。

典型场景:你依赖 BeforeCreate 自动生成 UUID 或时间戳,结果发现所有记录的 CreatedAt 时间完全一样,或者 UUID 重复了(因为没重入)。

  • 解决办法一:在插入前手动处理切片:for i := range users { users[i].ID = uuid.New(); users[i].CreatedAt = time.Now() }
  • 解决办法二:关闭钩子,用 GORM 的字段标签替代,例如 CreatedAt time.Time `gorm:"default:current_timestamp"`(依赖数据库支持)
  • 绝对不要在钩子里修改切片元素地址(比如 &users[i]),GORM 内部按值拷贝,改了也没用

CreateInBatches 更快的替代方案:原生 SQL + Exec

当插入量极大(如 > 10w 行)、结构简单、且不需要 GORM 的关联/钩子/软删除等特性时,手写批量 INSERT 并用 db.Exec 是最快的路径。GORM 的 CreateInBatches 仍要做反射、字段映射、SQL 拼接,有固定开销。

示例(MySQL):db.Exec("INSERT INTO users(name, email) VALUES (?, ?), (?, ?), (?, ?)", "a", "a@b.c", "b", "b@b.c", "c", "c@b.c") —— 参数按顺序平铺,不嵌套。

  • 优势:零反射、零结构体扫描、可控 SQL 格式、可复用 prepared statement
  • 坑点:参数数量必须严格匹配 ? 个数,否则 panic;PostgreSQL 用 $1, $2 占位符,不能混用
  • 安全边界:避免拼接用户输入进 SQL 字符串,只允许通过参数占位符传值

真正卡点不在语法,而在「什么时候该放弃 GORM」—— 如果你在 insert 前要校验 10 个业务规则、更新 3 张关联表、发消息、再记日志,那还是老实用 CreateInBatches;如果只是把 CSV 导进库,直接上原生 SQL 更干净。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

210

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

247

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

356

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

214

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

409

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

490

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

201

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1438

2025.06.17

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 6.1万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号