0

0

如何高效批量插入一百万行数据到 Laravel 数据库

霞舞

霞舞

发布时间:2026-02-02 15:04:01

|

704人浏览过

|

来源于php中文网

原创

如何高效批量插入一百万行数据到 Laravel 数据库

本文详解在 laravel 8 中安全、高效地将百万级手机号(源自 textarea)批量插入数据库的完整方案,规避内存溢出、超时错误与 http 500 问题,推荐使用流式分批 + 内存控制 + 命令行替代方案。

在 Web 请求中一次性处理 1,000,000 行数据(如从

✅ 正确做法是:边解析、边过滤、边组装、边插入,严格控制单批次内存占用,并彻底避免累积百万级对象于内存中

以下是优化后的核心逻辑(修复原代码关键缺陷):

public function mobile_store(Request $request)
{
    $request->validate(['mobile' => 'required|string']);

    // 按行分割(兼容 \r\n、\n、\r)
    $lines = preg_split('/[\r\n]+/', trim($request->mobile), -1, PREG_SPLIT_NO_EMPTY);

    // 使用集合去重(保留顺序,避免 array_unique 重索引问题)
    $uniqueLines = collect($lines)->unique()->filter(function ($line) {
        return strlen(trim($line)) >= 10; // 至少 10 位有效数字
    })->map(function ($line) {
        $clean = trim($line);
        // 统一格式:+98 + 后10位数字(自动截取,防超长)
        return '+98' . substr($clean, -10);
    });

    // 流式分批插入:每 5000 条执行一次 insert,不累积全部数据
    $batch = [];
    $totalInserted = 0;
    $now = Carbon::now();

    foreach ($uniqueLines as $mobile) {
        $batch[] = [
            'mobile' => $mobile,
            'created_at' => $now,
            'updated_at' => $now,
        ];

        if (count($batch) >= 5000) {
            Mobile::insert($batch);
            $totalInserted += count($batch);
            $batch = []; // 立即释放内存
        }
    }

    // 插入剩余不足 5000 条的数据
    if (!empty($batch)) {
        Mobile::insert($batch);
        $totalInserted += count($batch);
    }

    return redirect()->back()->with('success', "成功插入 {$totalInserted} 条唯一手机号");
}

⚠️ 关键优化说明:

  • 不使用 collect()->chunk():原代码先 collect($Filter)->chunk(5000),仍需将全部数据载入内存,未解决根本问题;
  • 用原生数组替代 Collection 批处理:$batch[] 比 $insert_data->push() 内存开销更低,且 count($batch) 比 ->count() 更快;
  • 预计算 Carbon::now():避免在循环内重复调用,提升性能;
  • 正则分割兼容换行符:preg_split('/[\r\n]+/', ...) 比 explode("\r\n", ...) 更鲁棒;
  • 提前过滤空行与无效长度:减少无效迭代。

? 进阶建议(强烈推荐用于百万级场景):

网趣网上购物系统HTML静态版
网趣网上购物系统HTML静态版

网趣购物系统静态版支持网站一键静态生成,采用动态进度条模式生成静态,生成过程更加清晰明确,商品管理上增加淘宝数据包导入功能,与淘宝数据同步更新!采用领先的AJAX+XML相融技术,速度更快更高效!系统进行了大量的实用性更新,如优化核心算法、增加商品图片批量上传、谷歌地图浏览插入等,静态版独特的生成算法技术使静态生成过程可随意掌控,从而可以大大减轻服务器的负担,结合多种强大的SEO优化方式于一体,使

下载
  1. 迁移到 Artisan 命令(最佳实践)
    将导入逻辑封装为命令行任务,彻底绕过 Web 超时与内存限制:

    php artisan mobile:import --file=/path/to/mobiles.txt

    命令中可启用 DB::transaction()、使用 DB::table()->upsert()(Laravel 9+)、或结合 cursor() 分页读取大文件。

  2. 前端配合优化

    • 添加 enctype="multipart/form-data" + 文件上传(而非 textarea),服务端用 fopen() 流式读取;
    • 或使用 AJAX 分片上传(如 10,000 行/次),后端提供进度接口。
  3. 数据库层面调优

    • 导入前禁用索引(ALTER TABLE mobiles DISABLE KEYS)和外键检查;
    • 导入后重建索引;
    • 使用 INSERT INTO ... VALUES (),(),... 批量语法(Laravel insert() 已自动实现)。

? 总结:Web 请求不适合百万级同步导入。当前方案可稳定处理 50 万行以内;超大规模务必转向 CLI 命令 + 文件流式处理 + 数据库调优组合策略,兼顾稳定性、可观测性与运维友好性。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
laravel组件介绍
laravel组件介绍

laravel 提供了丰富的组件,包括身份验证、模板引擎、缓存、命令行工具、数据库交互、对象关系映射器、事件处理、文件操作、电子邮件发送、队列管理和数据验证。想了解更多laravel的相关内容,可以阅读本专题下面的文章。

321

2024.04.09

laravel中间件介绍
laravel中间件介绍

laravel 中间件分为五种类型:全局、路由、组、终止和自定。想了解更多laravel中间件的相关内容,可以阅读本专题下面的文章。

279

2024.04.09

laravel使用的设计模式有哪些
laravel使用的设计模式有哪些

laravel使用的设计模式有:1、单例模式;2、工厂方法模式;3、建造者模式;4、适配器模式;5、装饰器模式;6、策略模式;7、观察者模式。想了解更多laravel的相关内容,可以阅读本专题下面的文章。

415

2024.04.09

thinkphp和laravel哪个简单
thinkphp和laravel哪个简单

对于初学者来说,laravel 的入门门槛较低,更易上手,原因包括:1. 更简单的安装和配置;2. 丰富的文档和社区支持;3. 简洁易懂的语法和 api;4. 平缓的学习曲线。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

374

2024.04.10

laravel入门教程
laravel入门教程

本专题整合了laravel入门教程,想了解更多详细内容,请阅读专题下面的文章。

86

2025.08.05

laravel实战教程
laravel实战教程

本专题整合了laravel实战教程,阅读专题下面的文章了解更多详细内容。

72

2025.08.05

laravel面试题
laravel面试题

本专题整合了laravel面试题相关内容,阅读专题下面的文章了解更多详细内容。

68

2025.08.05

laravel组件介绍
laravel组件介绍

laravel 提供了丰富的组件,包括身份验证、模板引擎、缓存、命令行工具、数据库交互、对象关系映射器、事件处理、文件操作、电子邮件发送、队列管理和数据验证。想了解更多laravel的相关内容,可以阅读本专题下面的文章。

321

2024.04.09

AO3官网入口与中文阅读设置 AO3网页版使用与访问
AO3官网入口与中文阅读设置 AO3网页版使用与访问

本专题围绕 Archive of Our Own(AO3)官网入口展开,系统整理 AO3 最新可用官网地址、网页版访问方式、正确打开链接的方法,并详细讲解 AO3 中文界面设置、阅读语言切换及基础使用流程,帮助用户稳定访问 AO3 官网,高效完成中文阅读与作品浏览。

45

2026.02.02

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PHP课程
PHP课程

共137课时 | 10.8万人学习

JavaScript ES5基础线上课程教学
JavaScript ES5基础线上课程教学

共6课时 | 11.2万人学习

PHP新手语法线上课程教学
PHP新手语法线上课程教学

共13课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号