0

0

SQL DISTINCT 去重操作原理与实践

冰川箭仙

冰川箭仙

发布时间:2026-02-16 18:12:02

|

597人浏览过

|

来源于php中文网

原创

select distinct 是对整行去重,作用于 select 后所有列组成的组合值;想单独取某列唯一值需单独查询;null 被视为相同值但组合中任一列不同即算不重复;其本质是查询末期的逻辑过滤,不修改原表;执行机制依数据量与数据库而定,可排序、哈希或索引扫描;order by 列必须出现在 select distinct 中;group by 在性能和扩展性上通常优于 distinct。

sql distinct 去重操作原理与实践

SELECT DISTINCT 是对整行去重,不是对单列

DISTINCT 作用的是 SELECT 后面所有列构成的“组合值”,只要任意一列不同,就算不重复。很多人写 SELECT DISTINCT a, b FROM t 却以为能分别拿到 a 的所有唯一值和 b 的所有唯一值——这是错的,它只返回 (a,b) 这个元组的唯一组合。

  • 想单独取 a 的所有不同值?必须写成 SELECT DISTINCT a FROM t
  • 想同时拿到 a 唯一值、b 唯一值、c 唯一值?不能靠一个 DISTINCT 实现,得拆成三个查询,或用 UNION 拼接(注意类型兼容)
  • NULL 被视为相同值:多行中若 a 列都是 NULLDISTINCT 只保留一行;但 (NULL, 1)(NULL, 2) 是不同组合,都会保留

去重不是删数据,而是执行时动态筛行

DISTINCT 不会修改原表,也不生成临时表(除非内存不够),它是在查询执行末期对结果集做的一次逻辑过滤。底层怎么筛,取决于数据库实际选择的机制:

  • 小数据量、无索引、无哈希支持(如旧版 MySQL 5.7)→ 默认走 排序去重:先 ORDER BY 所有 SELECT 列,再顺序扫描跳过相邻重复行;磁盘排序可能拖慢速度
  • 大数据量、内存充足、支持哈希(PostgreSQL ≥9.6 / SQL Server)→ 常选 哈希去重:建哈希表存已见 key,重复直接丢;快但吃内存,OOM 时可能降级为落盘哈希或回退排序
  • 如果 DISTINCT 列上有唯一索引或前导覆盖索引(如查 user_id,而索引是 (status, user_id)),优化器可能直接索引扫描,天然跳过重复——这时连哈希/排序都省了

ORDER BY 和 DISTINCT 共用时,字段必须被包含

标准 SQL 要求:ORDER BY 的列必须出现在 SELECT DISTINCT 的列列表中,否则报错或行为不可靠(MySQL 5.7 兼容模式下可能允许,但 PostgreSQL/SQL Server 会直接拒绝)。

.net全诚外卖通之预订版
.net全诚外卖通之预订版

预订版是外卖通系列软件之一,此版本和专业外卖版不一样,专业预订版侧重于餐饮业在线预订的实现。平台为用户提供大量的餐饮数据,由于人们对吃的要求苛刻与不通,用户不用在为去哪里吃饭而发愁,用户可以通过平台筛选就餐目标,然后执行预订操作;平台作为就餐者和商家的介质,从平台预订的可以享受一定的折扣,消费者同样可以从预订结果中获得一定的积分收入;同样,和外卖版一样,集成了短信通知、广告管理、专题管理、推广、多

下载
  • 合法:SELECT DISTINCT dept FROM employees ORDER BY dept
  • 非法:SELECT DISTINCT dept FROM employees ORDER BY hire_datehire_date 没在 SELECT 列表里)
  • 想按某列排序但又不想显示它?不行。要么加进 SELECT(哪怕只是冗余),要么改用子查询或窗口函数

大数据量下,DISTINCT 很可能比 GROUP BY 慢

单纯去重时,GROUP BYDISTINCT 语义等价,但执行计划常更优——因为优化器对 GROUP BY 的路径探索更充分,尤其当涉及聚合倾向(哪怕没写聚合函数)或已有分组索引时。

  • 推荐写法:SELECT dept FROM employees GROUP BY dept,而非 SELECT DISTINCT dept FROM employees
  • 如果后续要加统计(如每个部门人数),GROUP BY 只需补 COUNT(*)DISTINCT 就得重写逻辑
  • 注意:某些场景下 GROUP BY 会强制排序(如 MySQL 8.0 默认),若不需要有序结果,可加 ORDER BY NULL 显式关闭

真正难的不是写对语法,而是判断“这个去重到底是不是必须发生在 SQL 层”——比如前端展示需要去重,但原始数据本就来自多个 UNION 查询,重复是合并引入的,那前置去重或应用层 dedupe 可能更轻量。别让数据库替你承担不该担的逻辑。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

965

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

334

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

376

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

1676

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

370

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

1252

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

584

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

435

2024.04.29

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

283

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号