SQL中如何排除重复数据行：DISTINCT关键字的使用场景

SQL中如何排除重复数据行：DISTINCT关键字的使用场景

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

SELECT DISTINCT 为什么没去重？

很多开发者第一次遇到这个问题都会愣一下：明明用了DISTINCT，怎么重复数据还在？其实，最常见的原因就藏在它的工作机制里——DISTINCT是对整行生效的，而不是针对某一个单独的列。

举个例子，SELECT DISTINCT name, age FROM users这条语句，它判断的唯一性标准是(name, age)这个组合。只要这对值不完全相同，哪怕name字段重复了，整行数据也会被保留下来。这就解释了为什么有时查询结果的行数会比预期多。

• 如果真想只按name这一个字段去重，那就得换思路了。通常的解法是使用GROUP BY name配合聚合函数，或者借助子查询和ROW_NUMBER()窗口函数来实现。
• 另一个需要注意的点是NULL值的处理。在DISTINCT的眼里，多个NULL被视为相同的值，它们会被合并成一行。
• 还有个小陷阱藏在细节里：字符串末尾的空格。在某些数据库（比如MySQL的TEXT类型字段）中，这些空格可能会影响比较结果，导致本该被去重的行“漏网”。

DISTINCT 和 GROUP BY 选哪个？

这俩兄弟功能有重叠，但分工其实很明确。如果目标仅仅是取出唯一值，DISTINCT的写法更直接、意图更清晰。但是，一旦需求里掺杂了额外的计算——比如想知道每个分组的最新时间、或者要统计数量——那就必须请出GROUP BY了。

从语义上讲，DISTINCT是一种对结果集进行去重的操作，而GROUP BY的核心是分组和聚合。这意味着：

• DISTINCT无法直接配合复杂的聚合逻辑。像“找出每个category下价格最高的商品”这类需求，单靠它是无能为力的。
• 有些数据库提供了扩展语法来增强它的能力，比如PostgreSQL的DISTINCT ON (col)，可以指定按某一列优先去重。但这并非SQL标准，MySQL和SQL Server就不支持。
• 谈到性能，DISTINCT通常会隐式触发排序或哈希计算来实现去重。当数据量很大时，它的效率可能反而不如一个利用了合适索引的GROUP BY查询。

ORDER BY 和 DISTINCT 能一起用吗？

答案是肯定的，但有个关键限制：ORDER BY子句中使用的字段，必须出现在SELECT的列表里（除非它是常量或聚合表达式）。违反这个规则，大多数数据库都会直接报错。

比如，SELECT DISTINCT name FROM users ORDER BY created_at这个查询就是非法的，因为created_at字段并没有被选择出来。那如果真想按一个未显示的字段排序呢？

• 常见的改写方法是使用子查询。可以先通过子查询得到去重后的name，再通过JOIN回原表或其他方式，关联出用于排序的字段（例如最大的created_at）。
• 这里特别提一下MySQL。从5.7版本开始，默认开启了ONLY_FULL_GROUP_BY模式。这个模式会让许多以前“好像能跑”的DISTINCT + ORDER BY组合突然报错。遇到问题时，先别急着怀疑语法，检查一下SQL mode才是正解。
• 最后要明确一点：ORDER BY只负责决定最终结果的呈现顺序，它完全不影响DISTINCT的去重逻辑。

替代 DISTINCT 的轻量方案有哪些？

当数据量非常庞大、需要去重的字段很多、并且业务上可以接受“近似唯一”的结果时，可以考虑一些更节省资源的替代方案。

• 用EXISTS或IN替代多表连接中的DISTINCT。例如，想查询“所有下过订单的用户”，写成SELECT id FROM users WHERE EXISTS (SELECT 1 FROM orders WHERE orders.user_id = users.id)，往往比SELECT DISTINCT users.id FROM users JOIN orders ON ...这种写法效率更高。
• 利用临时表和数据库的唯一约束。在插入数据前，使用INSERT IGNORE（MySQL）或ON CONFLICT DO NOTHING（PostgreSQL）这类语句，依靠表上的唯一索引来自动拦截重复记录。
• 将去重工作放到应用层。这在某些场景下更灵活，但必须警惕随之而来的网络传输开销和内存消耗。如果数据库本来就要返回几千行数据，再由应用层过滤，那不如一开始就让数据库把活干完。

说到底，在实际使用DISTINCT时，最容易踩坑的地方往往是对其“全字段生效”语义的误解，以及对NULL值特殊处理方式的忽视。经常有人调试半天，发现去重没生效，最后才恍然大悟：原来是SELECT列表里多选了一个时间戳字段。