Pandas數據處理三板斧,你會幾板?

在日常的數據處理中,經常會對一個DataFrame進行逐行、逐列和逐元素的操作,對應這些操作,Pandas中的mapapplyapplymap可以解決絕大部分這樣的數據處理需求。這篇文章就以案例附帶圖解的方式,爲大家詳細介紹一下這三個方法的實現原理,相信讀完本文後,不論是小白還是Pandas的進階學習者,都會對這三個方法有更深入的理解。

本文演示的數據集是模擬生成的,想練手的可以按下方的代碼生成。

boolean=[True,False]
gender=["男","女"]
color=["white","black","yellow"]
data=pd.DataFrame({
    "height":np.random.randint(150,190,100),
    "weight":np.random.randint(40,90,100),
    "smoker":[boolean[x] for x in np.random.randint(0,2,100)],
    "gender":[gender[x] for x in np.random.randint(0,2,100)],
    "age":np.random.randint(15,90,100),
    "color":[color[x] for x in np.random.randint(0,len(color),100) ]
}
)

數據集如下所示,各列分別代表身高、體重、是否吸菸、性別、年齡和膚色。

Series數據處理

map

如果需要把數據集中gender列的男替換爲1,女替換爲0,怎麼做呢?絕對不是用for循環實現!!!使用Series.map()可以很容易做到,最少僅需一行代碼。

#①使用字典進行映射
data["gender"] = data["gender"].map({"男":1, "女":0})

#②使用函數
def gender_map(x):
    gender = 1 if x == "男" else 0
    return gender
#注意這裏傳入的是函數名,不帶括號
data["gender"] = data["gender"].map(gender_map)

map在實際過程中是怎麼運行的呢?請看下面的圖解(爲了方便展示,僅截取了前10條數據)

不論是利用字典還是函數進行映射,map方法都是把對應的數據逐個當作參數傳入到字典或函數中,得到映射後的值。

apply

同時Series對象還有apply方法,apply方法的作用原理和map方法類似,區別在於apply能夠傳入功能更爲複雜的函數。怎麼理解呢?一起看看下面的例子。

假設在數據統計的過程中,年齡age列有較大誤差,需要對其進行調整(加上或減去一個值),由於這個加上或減去的值未知,故在定義函數時,需要加多一個參數bias,此時用map方法是操作不了的(傳入map的函數只能接收一個參數),apply方法則可以解決這個問題。

def apply_age(x,bias):
    return x+bias

#以元組的方式傳入額外的參數
data["age"] = data["age"].apply(apply_age,args=(-3,))

可以看到age列都減了3,當然,這裏只是簡單舉了個例子,當需要進行復雜處理時,更能體現apply的作用。

總而言之,對於Series而言,map可以解決絕大多數的數據處理需求,但如果需要使用較爲複雜的函數,則需要用到apply方法。

DataFrame數據處理

apply

DataFrame而言,apply是非常重要的數據處理方法,它可以接收各種各樣的函數(Python內置的或自定義的),處理方式很靈活,下面通過幾個例子來看看apply的具體使用及其原理。

在進行具體介紹之前,首先需要介紹一下DataFrameaxis的概念,在DataFrame對象的大多數方法中,都會有axis這個參數,它控制了你指定的操作是沿着0軸還是1軸進行。axis=0代表操作對列columns進行,axis=1代表操作對行row進行,如下圖所示。

如果還不是很瞭解,沒關係,下面會分別對apply沿着0軸以及1軸的操作進行講解,繼續往下走。

假設現在需要對data中的數值列分別進行取對數求和的操作,這時可以用apply進行相應的操作,因爲是對列進行操作,所以需要指定axis=0,使用下面的兩行代碼可以很輕鬆地解決我們的問題。

# 沿着0軸求和
data[["height","weight","age"]].apply(np.sum, axis=0)

# 沿着0軸取對數
data[["height","weight","age"]].apply(np.log, axis=0)

實現的方式很簡單,但調用apply時究竟發生了什麼呢?過程是怎麼實現的?還是通過圖解的方式來一探究竟。(取前五條數據爲例)


當沿着軸0(axis=0)進行操作時,會將各列(columns)默認以Series的形式作爲參數,傳入到你指定的操作函數中,操作後合併並返回相應的結果。

那如果在實際使用中需要按行進行操作(axis=1),那整個過程又是怎麼實現的呢?

在數據集中,有身高和體重的數據,所以根據這個,我們可以計算每個人的BMI指數(體檢時常用的指標,衡量人體肥胖程度和是否健康的重要標準),計算公式是:體重指數BMI=體重/身高的平方(國際單位kg/㎡),因爲需要對每個樣本進行操作,這裏使用axis=1apply進行操作,代碼如下:

def BMI(series):
    weight = series["weight"]
    height = series["height"]/100
    BMI = weight/height**2
    return BMI

data["BMI"] = data.apply(BMI,axis=1)

還是用圖解的方式來看看這個過程到底是怎麼實現的(以前5條數據爲例)。

apply設置了axis=1對行進行操作時,會默認將每一行數據以Series的形式(Series的索引爲列名)傳入指定函數,返回相應的結果。

總結一下對DataFrameapply操作:

  1. axis=0時,對每列columns執行指定函數;當axis=1時,對每行row執行指定函數。

  2. 無論axis=0還是axis=1,其傳入指定函數的默認形式均爲Series,可以通過設置raw=True傳入numpy數組

  3. 對每個Series執行結果後,會將結果整合在一起返回(若想有返回值,定義函數時需要return相應的值)

  4. 當然,DataFrameapplySeriesapply一樣,也能接收更復雜的函數,如傳入參數等,實現原理是一樣的,具體用法詳見官方文檔。

applymap

applymap的用法比較簡單,會對DataFrame中的每個單元格執行指定函數的操作,雖然用途不如apply廣泛,但在某些場合下還是比較有用的,如下面這個例子。

爲了演示的方便,新生成一個DataFrame

df = pd.DataFrame(
    {
        "A":np.random.randn(5),
        "B":np.random.randn(5),
        "C":np.random.randn(5),
        "D":np.random.randn(5),
        "E":np.random.randn(5),
    }
)
df

現在想將DataFrame中所有的值保留兩位小數顯示,使用applymap可以很快達到你想要的目的,代碼和圖解如下:

df.applymap(lambda x:"%.2f" % x)

數據處理三板斧就介紹到這裏,有問題歡迎下方留言板積極留言呀!

精彩回顧

Python網絡爬蟲與文本數據分析

如何使用Python快速構建領域內情感詞典

中文文本數據邏輯性分析庫

中文文本分析相關資源彙總

cnsenti中文情緒情感分析庫

Python全棧-60天精通之路

Python數據分析相關學習資源彙總帖

漂亮~pandas可以無縫銜接Bokeh

綜述:文本分析在市場營銷研究中的應用

2020年B站跨年晚會彈幕內容分析

YelpDaset: 酒店管理類數據集10+G

Loughran&McDonald金融文本情感分析庫

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章