0

0

mysql数据去重怎么做_mysql数据去重实用方法分享

看不見的法師

看不見的法師

发布时间:2025-11-13 12:53:07

|

512人浏览过

|

来源于php中文网

原创

答案:文章介绍了MySQL数据去重的四种方法。1. 使用DISTINCT在查询时去除重复;2. 结合GROUP BY与子查询删除重复记录,保留最小id;3. 创建新表导入去重数据后替换原表,适合大数据量;4. 添加唯一索引防止未来重复。操作前需备份数据,确保安全。

mysql数据去重怎么做_mysql数据去重实用方法分享

MySQL数据去重是日常开发和数据库维护中常见的需求,尤其在数据导入、迁移或清洗过程中容易出现重复记录。直接删除重复数据可能影响业务,因此需要谨慎操作。下面介绍几种实用且安全的去重方法。

1. 使用DISTINCT去除查询结果中的重复

如果只是想在查询时避免重复数据,DISTINCT 是最简单的方法。

例如,表 user_info 中有重复的姓名记录:

SELECT DISTINCT name, email FROM user_info;

这会返回 name 和 email 的唯一组合。注意:DISTINCT 作用于所有选中的字段,只有当所有字段值完全相同时才会去重。

2. 利用GROUP BY保留一条记录并删除重复

若需要从表中真正删除重复数据,只保留一条,可结合 GROUP BY 和聚合函数(如 MIN 或 MAX)来实现。

假设表中有自增主键 id,想根据 name 和 email 去重,保留 id 最小的那条:

先查看重复数据:

SELECT name, email, COUNT(*) FROM user_info GROUP BY name, email HAVING COUNT(*) > 1;

然后删除重复项,保留最小 id:

Cursor
Cursor

一个新的IDE,使用AI来帮助您重构、理解、调试和编写代码。

下载

DELETE FROM user_info WHERE id NOT IN (SELECT min_id FROM (SELECT MIN(id) AS min_id FROM user_info GROUP BY name, email) AS t);

注意:MySQL不允许在子查询中直接修改同一张表,所以外层再套一层 SELECT 是必要的。

3. 创建新表去重(推荐用于大数据量)

对于大表,直接删除可能效率低且风险高。可以创建一个结构相同的新表,导入去重后的数据,再替换原表。

步骤如下:

  • 创建新表:CREATE TABLE user_info_new LIKE user_info;
  • 插入去重数据:INSERT INTO user_info_new SELECT * FROM user_info GROUP BY name, email;
  • 重命名表:RENAME TABLE user_info TO user_info_backup, user_info_new TO user_info;
这种方式速度快,不易锁表,适合生产环境批量处理。

4. 添加唯一索引防止未来重复

去重完成后,建议添加唯一约束,避免后续重复数据写入。

ALTER TABLE user_info ADD UNIQUE INDEX idx_name_email (name, email);

这样当程序尝试插入相同 name 和 email 的记录时,会报错提醒,从而保证数据唯一性。

基本上就这些常用又实用的 MySQL 去重方法。选择哪种方式取决于数据量、是否允许修改表结构以及操作场景。操作前记得备份数据,避免误删。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
mysql修改数据表名
mysql修改数据表名

MySQL修改数据表:1、首先查看数据库中所有的表,代码为:‘SHOW TABLES;’;2、修改表名,代码为:‘ALTER TABLE 旧表名 RENAME [TO] 新表名;’。php中文网还提供MySQL的相关下载、相关课程等内容,供大家免费下载使用。

686

2023.06.20

MySQL创建存储过程
MySQL创建存储过程

存储程序可以分为存储过程和函数,MySQL中创建存储过程和函数使用的语句分别为CREATE PROCEDURE和CREATE FUNCTION。使用CALL语句调用存储过程智能用输出变量返回值。函数可以从语句外调用(通过引用函数名),也能返回标量值。存储过程也可以调用其他存储过程。php中文网还提供MySQL创建存储过程的相关下载、相关课程等内容,供大家免费下载使用。

514

2023.06.21

mongodb和mysql的区别
mongodb和mysql的区别

mongodb和mysql的区别:1、数据模型;2、查询语言;3、扩展性和性能;4、可靠性。本专题为大家提供mongodb和mysql的区别的相关的文章、下载、课程内容,供大家免费下载体验。

287

2023.07.18

mysql密码忘了怎么查看
mysql密码忘了怎么查看

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql密码忘了怎么办呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

519

2023.07.19

mysql创建数据库
mysql创建数据库

MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,属于 Oracle 旗下产品。MySQL 是最流行的关系型数据库管理系统之一,在 WEB 应用方面,MySQL是最好的 RDBMS 应用软件之一。那么mysql怎么创建数据库呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

267

2023.07.25

mysql默认事务隔离级别
mysql默认事务隔离级别

MySQL是一种广泛使用的关系型数据库管理系统,它支持事务处理。事务是一组数据库操作,它们作为一个逻辑单元被一起执行。为了保证事务的一致性和隔离性,MySQL提供了不同的事务隔离级别。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

392

2023.08.08

sqlserver和mysql区别
sqlserver和mysql区别

SQL Server和MySQL是两种广泛使用的关系型数据库管理系统。它们具有相似的功能和用途,但在某些方面存在一些显著的区别。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

542

2023.08.11

mysql忘记密码
mysql忘记密码

MySQL是一种关系型数据库管理系统,关系数据库将数据保存在不同的表中,而不是将所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。那么忘记mysql密码我们该怎么解决呢?php中文网给大家带来了相关的教程以及其他关于mysql的文章,欢迎大家前来学习阅读。

668

2023.08.14

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
MySQL 教程
MySQL 教程

共48课时 | 2.5万人学习

MySQL 初学入门(mosh老师)
MySQL 初学入门(mosh老师)

共3课时 | 0.3万人学习

简单聊聊mysql8与网络通信
简单聊聊mysql8与网络通信

共1课时 | 850人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号