当前位置: 首页
编程语言
按年份类别组合高效计算分组唯一值数量

按年份类别组合高效计算分组唯一值数量

热心网友 时间:2026-06-24
转载

一行代码用Pandas的groupby() transform( nunique ),可同时为DataFrame添加多分组维度下的唯一值计数列,省去冗余merge操作,提升代码简洁性、可读性与执行效率,且易于扩展至更多分组。

本文详细介绍如何借助 Pandas 的 groupby().transform() 方法,仅用一行代码便可在原始 DataFrame 中同时添加多个分组维度下的唯一值计数列,彻底告别冗余的 merge 操作,显著提升代码可读性与执行效率。

先说一个核心结论:在数据分析场景中,若想在保留原表每一行数据的前提下,按不同维度统计不重复值的数量,反复调用 `groupby().nunique()` 再通过 `merge` 合并回原表,不仅代码冗长,还极易因索引对齐问题引发错误。更高效的方案是采用 `transform()`,一步到位完成广播赋值。

想象一下,你手头有一份包含年份、类别和观测 ID 的数据集。任务要求:不仅要统计每个类别中有多少不重复的 ID,还要看每年有多少,甚至每年的每个类别下有多少。传统写法是什么?写三个 groupby,得到三个聚合结果,再逐一合并回去。代码看着就头疼,执行效率也十分低下。

而使用 `transform('nunique')`,事情就变得简单多了。它能够将分组聚合后的唯一值数量,原封不动地广播回每一行——这意味着在原表的每一行旁边,直接多出一列,清晰显示“你所在的分组里,有多少个不重复的 ID”。无需合并,无需对索引,一行代码即可搞定。

来看一段示例代码,感受这种写法的优雅之处:

import pandas as pd
df = pd.DataFrame({
    'year': [2020, 2020, 2020, 2021, 2021, 2022, 2023, 2023, 2023, 2023],
    'cat':  [1,    1,    2,    2,    3,    3,    1,    2,    3,    4],
    'i':    ['a',  'a',  'b',  'c',  'd',  'e',  'f',  'f',  'g',  'g']
})

# 定义所有需要统计的分组维度(单列与组合)
groups = ['cat', 'year', ['cat', 'year']]

# 批量添加新列:n_by_cat、n_by_year、n_by_catyear
for g in groups:
    col_name = f"n_by_{''.join(map(str, g))}" if isinstance(g, list) else f"n_by_{g}"
    df[col_name] = df.groupby(g)['i'].transform('nunique')

运行之后,原表会直接多出三列:n_by_cat、n_by_year、n_by_catyear。每一行的数据,都精确反映了它所在分组内不重复 i 的数量。

yearcatin_by_catn_by_yearn_by_catyear
20201a221
20201a221
..................

这种写法的优势,其实非常明显:

  • 简洁高效:无需创建中间聚合表,也无需手动执行 merge,列名与键匹配的风险自然消失,代码量大幅缩减。
  • 索引一致:`transform` 天然保证输出行数与原 DataFrame 完全一致,彻底规避了索引错位之类的坑。
  • 易于扩展:如果将来需要增加 `['year', 'cat', 'region']` 这样的分组维度,只需往 `groups` 列表中加入一项,代码几乎无需改动。
  • 性能出色:Pandas 对 `transform` 底层做了专门优化,当数据量较大时,其执行效率明显优于多次 `merge`,这一特点在日常工作中能直观体会到。

当然,使用过程中也有一些细节需要留意:

  • `transform('nunique')` 要求被统计的列(此处为 `i`)必须支持哈希比较,例如字符串、数值、元组均可。但如果列中包含 NaN 或不可哈希的对象类型,则可能出现问题。
  • 分组键若含有缺失值(NaN),Pandas 默认会将 NaN 视为独立分组。如果这不是预期行为,请提前使用 `dropna(subset=['cat', 'year'])` 清理缺失值。
  • 列名生成逻辑虽可自动适配单列与多列分组,但在实际项目中,建议根据业务语义自定义更直观的列名(例如 `n_distinct_i_by_cat`),进一步提升代码可读性。

掌握这一技巧后,处理类似的分组统计任务将变得极为顺手。它虽算不上高深算法,但在 Pandas 数据工程实践中,绝对是一个省时省力的实用窍门。希望本文能帮助你在日常工作中提升效率、减少烦恼。

来源:https://www.php.cn/faq/2675244.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
IDEA中SpringBoot项目热部署实现指南

IDEA中SpringBoot项目热部署实现指南

Springboot项目在IDEA中实现热部署需依次完成:开启自动编译(静态与动态编译)、启用热部署策略、引入spring-boot-devtools依赖、关闭浏览器缓存,最后启动测试即可生效,省去手动重启时间,大幅提升开发效率。

时间:2026-07-11 06:47
Java实现Excel转JSON的代码详解

Java实现Excel转JSON的代码详解

使用Java结合FreeSpire XLS库可自动将Excel转为JSON,通过读取工作表并映射为键值对,高效支持数据迁移、报表导出与系统对接,大幅提升效率并消除手动录入错误。

时间:2026-07-11 06:47
Golang高效布谷鸟过滤器多字符集字符串过滤

Golang高效布谷鸟过滤器多字符集字符串过滤

布谷鸟过滤器支持删除操作,通过指纹截断与双哈希定位实现多字符集高效过滤。指纹截断需采用fnv64a或xxhash快速哈希并取低8位,桶索引使用独立双哈希避免假阳性。并发安全需以固定数组配合sync atomic实现。

时间:2026-07-11 06:47
Java使用Poi-tl按Word模板生成动态表格

Java使用Poi-tl按Word模板生成动态表格

Poi-tl是Word导出工具,文档周全,支持多级合并表头生成。通过{{text}}、{{?var}}、{{ table}}标签处理模板,传入TableRenderData对象即可动态渲染表格。示例展示用户信息表格生成,并提供工具类消除表格首行缩进,确保格式正确。

时间:2026-07-11 06:47
Go语言微服务集成Swagger生成交互式API文档完整教程

Go语言微服务集成Swagger生成交互式API文档完整教程

在Go微服务中集成Swagger常见四大问题:swaginit初始化失败需确保存在packagemain及注释;SwaggerUI加载失败因路由映射错误或未导入docs;@Param注解必须严格遵循格式;部署后接口文档显示localhost因硬编码host,应删除或通过环境变量动态注入。

时间:2026-07-11 06:47
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 热门数据榜