網(wǎng)站首頁 編程語言 正文
前言
pandas對數(shù)據(jù)框也可以像excel一樣進(jìn)行數(shù)據(jù)透視表整合之類的操作。主要是針對分類數(shù)據(jù)進(jìn)行操作,還可以計(jì)算數(shù)值型數(shù)據(jù),去滿足復(fù)雜的分類數(shù)據(jù)整理的邏輯。
首先還是導(dǎo)入包:
import numpy as np
import pandas as pd
整理透視 pivot?
首先介紹的是最簡單的整理透視函數(shù)pivot,其原理如圖:
pivot參數(shù):
- index:新 df 的索引列,用于分組,如果為None,則使用現(xiàn)有索引
- columns:新 df 的列,如果透視后有重復(fù)值會報(bào)錯(cuò)
- values:用于填充 df 的列。 如果未指定,將使用所有剩余的列,并且結(jié)果將具有按層次結(jié)構(gòu)索引的列
用法如下,首先生成案例數(shù)據(jù)df
df = pd.DataFrame({'foo': ['one', 'one', 'one', 'two', 'two', 'two'],
'bar': ['A', 'B', 'C', 'A', 'B', 'C'],
'baz': [1, 2, 3, 4, 5, 6],
'zoo': ['x', 'y', 'z', 'q', 'w', 't']})
df
df.pivot(index='foo', columns='bar', values='baz')
可以看到是一一對應(yīng)。簡單來說就是把foo、bar兩個(gè)分類變量整到行列名稱上去了,baz作為值
# 多層索引,可以取其中一列
df.pivot(index='foo', columns='bar') #['baz']
# 指定值
df.pivot(index='foo', columns='bar', values=['baz', 'zoo'])
聚合透視 Pivot Table
上面的pivot只適用于一一對應(yīng)的情況,如果分類變量的組合一樣,但是取值不一樣就會報(bào)錯(cuò)。此時(shí)應(yīng)該用Pivot Table,他默認(rèn)計(jì)算相同情況的均值。
參數(shù):
- data: 要透視的 DataFrame 對象
- values: 要聚合的列或者多個(gè)列
- index: 在數(shù)據(jù)透視表索引上進(jìn)行分組的鍵
- columns: 在數(shù)據(jù)透視表列上進(jìn)行分組的鍵
- aggfunc: 用于聚合的函數(shù), 默認(rèn)是 numpy.mean'''
df = pd.DataFrame({"A": ["a1", "a1", "a1", "a2", "a2","a2"],
"B": ["b2", "b2", "b1", "b1", "b1","b1"],
"C": ['c1','c1','c2','c2','c1','c1'],
"D": [1, 2, 3, 4, 5, 6]})
df
#索引a,列b使用Pivot會報(bào)錯(cuò),因?yàn)樗麄冎g的組合有重復(fù),要用Pivot Table,默認(rèn)計(jì)算均值
pd.pivot_table(df,index='A',columns='B',values='D')
#驗(yàn)證一下b1,a2這個(gè)均值5
df.loc[(df.A=='a2')&(df.B=='b1')].D.mean()
?聚合透視高級操作
pd.pivot_table(df,index=['A','B'],#指定多個(gè)索引
columns=['C'], #指定列
values='D', #數(shù)據(jù)值列
aggfunc=np.sum, #聚合函數(shù)
fill_value=0, #空值填充
margins=True #增加匯總列
)
?#多個(gè)計(jì)算方法
pd.pivot_table(df,index=['A','B'],#指定多個(gè)索引
columns=['C'], #指定列
values='D', #數(shù)據(jù)值列
aggfunc=[np.sum,np.mean,np.std]
)
交叉表crosstab()
交叉表是用于統(tǒng)計(jì)分組頻率的特殊透視表。簡單來說,就是將兩個(gè)或者多個(gè)列重中不重復(fù)的元素組成一個(gè)新的 DataFrame,新數(shù)據(jù)的行和列交叉的部分值為其組合在原數(shù)據(jù)中的數(shù)量
語法結(jié)構(gòu)如下:
pd.crosstab(index, columns, values=None, rownames=None,colnames=None, aggfunc=None, margins=False,
margins_name: str = 'All', dropna: bool = True,normalize=False) #→ 'DataFrame'
參數(shù)說明:
index:類數(shù)組,在行中按分組的值。
columns:類數(shù)組的值,用于在列中進(jìn)行分組。
values:類數(shù)組的,可選的,要根據(jù)因素匯總的值數(shù)組。
aggfunc:函數(shù),可選,如果未傳遞任何值數(shù)組,則計(jì)算頻率表。
rownames:序列,默認(rèn)為None,必須與傳遞的行數(shù)組數(shù)匹配。
colnames:序列,默認(rèn)值為None,如果傳遞,則必須與傳遞的列數(shù)組數(shù)匹配。
margins:布爾值,默認(rèn)為False,添加行/列邊距(小計(jì))
normalize:布爾值,{'all','index','columns'}或{0,1},默認(rèn)為False。 通過將所有值除以值的總和進(jìn)行歸一化。'
生成案例數(shù)據(jù):
df = pd.DataFrame({"A": ["a1", "a1", "a1", "a2", "a2","a2"],
"B": ["b2", "b2", "b1", "b1", "b1","b1"],
"C": ['c1','c1','c2','c2','c1','c1'],
"D": [1, 2, 3, 4, 5, 6]})
df
pd.crosstab(df['A'],df['B']) #都是分類數(shù)據(jù),計(jì)算頻率
pd.crosstab(df['A'],df['C']) #都是分類數(shù)據(jù)
#對交叉結(jié)果進(jìn)行歸一化:
pd.crosstab(df['A'], df['B'], normalize=True)
#對每列進(jìn)行歸一化:
pd.crosstab(df['A'], df['B'], normalize='columns')
#聚合,指定列做為值,并將這些值按一定算法進(jìn)行聚合:
pd.crosstab(df['A'], df['C'], values=df['D'], aggfunc=np.sum) #分類和數(shù)值
#邊距匯總,在最右邊增加一個(gè)匯總列:
pd.crosstab(df['A'], df['B'],values=df['D'],aggfunc=np.sum,
normalize=True,margins=True)
數(shù)據(jù)融合melt()
#df.melt() 是 df.pivot() 逆轉(zhuǎn)操作函數(shù)。簡單說就是將指定的列放到鋪開放到行上名為variable(可指定)列,值在value(可指定)列?
語法結(jié)構(gòu):
具體語法結(jié)構(gòu)如下:
pd.melt(frame: pandas.core.frame.DataFrame,id_vars=None, value_vars=None,
? ? ? ? var_name='variable', value_name='value',col_level=None)
其中:
- id_varstuple:list或ndarray(可選),用作標(biāo)識變量的列。
- value_varstuple:列表或ndarray,可選,要取消透視的列。 如果未指定,則使用未設(shè)置為id_vars的所有列。
- var_namescalar:用于“變量”列的名稱。 如果為None,則使用frame.columns.name或“variable”。
- value_namescalar:默認(rèn)為“ value”,用于“ value”列的名稱。
- col_levelint或str:可選,如果列是MultiIndex,則使用此級別來融化。
生成案例數(shù)據(jù):
df=pd.DataFrame({'A':['a1','a2','a3','a4','a5'],
'B':['b1','b2','b3','b4','b5'],
'C':[1,2,3,4,5]})
df
pd.melt(df)
#指定標(biāo)識和值,
pd.melt(df,id_vars=['A']) #只對BC展開
pd.melt(df,value_vars=['B','C']) #保留BC,并展開
#同時(shí)指定,并命名
pd.melt(df,id_vars=['A'],value_vars=['B'],var_name='B_label',value_name='B_value')
數(shù)據(jù)堆疊 stack
#stack就是把列變量堆到行上,unstack就是行變到列上
生成案例數(shù)據(jù) :
#堆疊 stack 單層索引:
df = pd.DataFrame({'A':['a1','a1','a2','a2'],
'B':['b1','b2','b1','b2'],
'C':[1,2,3,4],
'D':[5,6,7,8],
'E':[5,6,7,8]})
df.set_index(['A','B'],inplace=True)
df
?stack 堆疊
df.stack()
?unstack 解堆
df.stack().unstack()
df.stack().unstack().unstack()
df.stack().unstack().unstack().unstack()
?可以看到,解堆就是不停地把列變量弄到行上去作為索引。
原文鏈接:https://blog.csdn.net/weixin_46277779/article/details/126198862
相關(guān)推薦
- 2023-03-17 使用c語言輕松實(shí)現(xiàn)動(dòng)態(tài)內(nèi)存管_C 語言
- 2022-05-10 原生ajax 斷網(wǎng)和請求超時(shí)
- 2022-03-23 如何解決Mac中的Docker宿主機(jī)與容器無法通信(MacOS下解決宿主機(jī)和docker容器網(wǎng)絡(luò)互通
- 2022-04-10 python中的單向鏈表實(shí)現(xiàn)_python
- 2022-03-12 c++調(diào)用實(shí)現(xiàn)yolov5轉(zhuǎn)onnx介紹_C 語言
- 2023-03-03 Oracle中trunc()函數(shù)實(shí)例詳解_oracle
- 2023-08-28 react:使用 moment 來獲取日期
- 2022-09-18 Go語言包管理工具Godep的用法_Golang
- 最近更新
-
- window11 系統(tǒng)安裝 yarn
- 超詳細(xì)win安裝深度學(xué)習(xí)環(huán)境2025年最新版(
- Linux 中運(yùn)行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎(chǔ)操作-- 運(yùn)算符,流程控制 Flo
- 1. Int 和Integer 的區(qū)別,Jav
- spring @retryable不生效的一種
- Spring Security之認(rèn)證信息的處理
- Spring Security之認(rèn)證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權(quán)
- redisson分布式鎖中waittime的設(shè)
- maven:解決release錯(cuò)誤:Artif
- restTemplate使用總結(jié)
- Spring Security之安全異常處理
- MybatisPlus優(yōu)雅實(shí)現(xiàn)加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務(wù)發(fā)現(xiàn)-Nac
- Spring Security之基于HttpR
- Redis 底層數(shù)據(jù)結(jié)構(gòu)-簡單動(dòng)態(tài)字符串(SD
- arthas操作spring被代理目標(biāo)對象命令
- Spring中的單例模式應(yīng)用詳解
- 聊聊消息隊(duì)列,發(fā)送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠(yuǎn)程分支