pandas骚操作!transform 数据转换的 4 个常用技巧

来源:Python数据科学
作者:东哥起飞

本次给大家介绍一个功能超强的数据处理函数transform,相信很多朋友也用过,东哥这里再次进行详细分享下。

transform有4个比较常用的功能,总结如下:

  • 转换数值
  • 合并分组结果
  • 过滤数据
  • 结合分组处理缺失值

一. 转换数值

pd.transform(func, axis=0)

以上就是transform转换数值的基本用法,参数含义如下:

  • func是指定用于处理数据的函数,它可以是普通函数字符串函数名称函数列表轴标签映射函数的字典
  • axis是指要应用到哪个轴,0代表列,1代表行。

1. 普通函数

func可以是我们正常使用的普通函数,像下面例子这样自定义一个函数。

df = pd.DataFrame({'A': [1,2,3], 'B': [10,20,30] })def plus_10(x):    return x+10df.transform(plus_10)

或者,也可以用lambda函数简洁的实现,效果是一样的。

df.transform(lambda x: x+10)

2. 字符串函数

也可以传递任何有效的pandas内置的字符串函数,例如sqrt

df.transform('sqrt')

3. 函数列表

func还可以是一个函数的列表。例如numpysqrtexp函数的列表组合:

df.transform([np.sqrt, np.exp])

通过上面结果看到,两个函数分别作用于AB每个列。

4. 轴标签映射函数的字典

如果我们只想将指定函数作用于某一列,该如何操作?

func还可以是轴标签映射指定函数的字典。例如:

df.transform({    'A': np.sqrt,    'B': np.exp,})

这样,就可以对ABL两列分别使用相应函数了,互补干扰。

二、合并分组结果

这个功能是东哥最喜欢的,有点类似SQL的窗口函数,就是可以合并grouby()的分组结果。用一个例子说明:

df = pd.DataFrame({
  'restaurant_id': [101,102,103,104,105,106,107],
  'address': ['A','B','C','D', 'E', 'F', 'G'],
  'city': ['London','London','London','Oxford','Oxford', 'Durham', 'Durham'],
  'sales': [10,500,48,12,21,22,14]
})

我们可以看到,每个城市都有多家销售餐厅。我们现在想知道每家餐厅在城市中所占的销售百分比是多少。 预期输出为:

传统方法是:先groupby分组,结合apply计算分组求和,再用merge合并原表,然后再apply计算百分比。

但其实用transform可以直接代替前面两个步骤(分组求和、合并),简单明了。

首先,用transform结合groupby按城市分组计算销售总和。

df['city_total_sales'] = df.groupby('city')['sales']                           .transform('sum')

可以看到,使用transfrom计算分组的求和并不会像apply一样改变原表的结构,而是直接在原表的基础上再增加一列。

这样就可以一步到位,得到我们想要的格式。

然后,再计算百分比调整格式,搞定。

df['pct'] = df['sales'] / df['city_total_sales']
df['pct'] = df['pct'].apply(lambda x: format(x, '.2%'))

三、过滤数据

transform也可以用来过滤数据。仍用上个例子,我们希望获得城市总销售额超过40的记录,那么就可以这样使用。

df[df.groupby('city')['sales'].transform('sum') > 40]

上面结果来看,并没有生成新的列,而是通过汇总计算求和直接对原表进行了筛选,非常优雅。

四、结合分组处理缺失值

df = pd.DataFrame({
    'name': ['A', 'A', 'B', 'B', 'B', 'C', 'C', 'C'],
    'value': [1, np.nan, np.nan, 2, 8, 2, np.nan, 3]
})

在上面的示例中,数据可以按name分为三组A、B、C,每组都有缺失值。我们知道替换缺失值的常见的方法是用mean替换NaN。下面是每个组中的平均值。

df.groupby('name')['value'].mean()nameA    1.0B    5.0C    2.5Name: value, dtype: float64

我们可以通过transform()使用每组平均值来替换缺失值。用法如下:

df['value'] = df.groupby('name')
                .transform(lambda x: x.fillna(x.mean()))

以上就是本次关于transform的数据转换操作分享。

如果喜欢东哥的骚操作,请给我点个赞和在看

数据挖掘工程师

数万名数据挖掘爱好者的聚集地,致力于前沿数据技术研究。公众号以数据为核心,分享大数据、数据分析、机器学习、深度学习等干货,想学数据我等你来。
15篇原创内容
公众号
(0)

相关推荐

  • Pandas groupby分组操作详解

    在数据分析中,经常会遇到这样的情况:根据某一列(或多列)标签把数据划分为不同的组别,然后再对其进行数据分析.比如,某网站对注册用户的性别或者年龄等进行分组,从而研究出网站用户的画像(特点).在Pand ...

  • 30 个函数,加速你的数据分析处理速度!

    Pandas 是 Python 中最广泛使用的数据分析和操作库.它提供了许多功能和方法,可以加快「数据分析」和「预处理」步骤. 为了更好的学习 Python,我将以客户流失数据集为例,分享 「30」 ...

  • 一起学习Python常用模块——pandas

    作者介绍 @王多鱼 百度的一名推荐算法攻城狮. 主要负责推荐的召回和排序模型的优化工作. 1 前言 Pandas 是Python的一个数据分析包,它是为了解决数据分析任务而创建的.Pandas 纳入了 ...

  • 5-Pandas数据处理

    处理缺失数据 None None是Python自带的,其类型为python object.因此,None不能参与到任何计算中 np.nan(NaN) np.nan是浮点类型,能参与到计算中.但计算的结 ...

  • pandas骚操作:transform 数据转换的 4 个常用技巧!

    来源:Python数据科学 作者:东哥起飞 大家好,我是东哥. 本篇是pandas100个骚操作系列的第 8 篇:transform 数据转换的 4 个常用技巧! 系列内容,请看

  • pandas骚操作:8个 快速筛选数据的骚操作

    后台回复[大礼包]送你Python自学大礼包 日常用Python做数据分析最常用到的就是查询筛选了,按各种条件.各种维度以及组合挑出我们想要的数据,以方便我们分析挖掘. 东哥总结了日常查询和筛选常用的 ...

  • pandas100个骚操作:一行 pandas 代码搞定 Excel “条件格式”!

    关键时间,第一时间送达! 来源:Python数据科学 作者:东哥起飞 大家好,我是你们的东哥. 本篇是pandas100个骚操作系列的第 7 篇:一行 pandas 代码搞定 Excel " ...

  • 这个 win 10 的骚操作,我爱了!

    很多时候我们虽然经常用着某个东西,但是并不代表我们已经对它完全掌握了解了. 就拿微信来说,我们也是天天用,但是大侠之前有发过一篇关于微信隐藏小功能的文章. 看到留言还是有很多小伙伴是不知道这些功能的, ...

  • 分享一下win10的一些骚操作!

    分享一下win10的一些骚操作!

  • 古人的澡堂里究竟有多少骚操作,你绝对想象不到🧐

    公元二世纪 古罗马皇帝哈德良禁止男女共浴 这种风气才开始有所收敛 "洗澡社交"除了在人们 娱乐消遣方面有巨大贡献外 还大力推动了建筑的发展 由于罗马人太喜爱洗澡 澡堂里的人越来越多 ...

  • 小哥哥网恋吗?第二十章 这是什么骚操作?

    文字丨 蔻蔻 图丨北堂文学舍 小哥哥网恋吗?  第二十章:这是什么骚操作? 很快又到了表演的日子,知夏满怀忐忑地走到后台. 望着屏幕上一个又一个人出现,然后得到导师的评价后又转身失望或激动的下了舞台. ...

  • 徐峥什么骚操作?《囧妈》成史上第一部线上首播的春节档热门电影

    就在昨天,由于愈演愈烈的武汉新冠状病毒肺炎疫情,7部春节档电影<囧妈><唐人街探案3><夺冠><紧急救援><急先锋><姜子牙>& ...

  • 1000万骑手全是外包,美团这骚操作夺笋啊

    准确地说,应该是它旗下的外卖小哥过得不好. 上千万骑手群体内卷严重,劳动时长与待遇不成正比,而且意外风险高,处在社会底层苦苦挣扎. 骑手各种被压榨的新闻在网上随处可见,大伙只要输入关键词搜一下就能看到 ...