網站首頁 編程語言 正文
要處理文本數據,需要比數字類型的數據更多的清理步驟。為了從文本數據中提取有用和信息,通常需要執行幾個預處理和過濾步驟。
Pandas 庫有許多可以輕松簡單地處理文本數據函數和方法。在本文中,我介紹將學習 5 種可用于過濾文本數據(即字符串)的不同方法:
- 是否包含一系列字符
- 求字符串的長度
- 判斷以特定的字符序列開始或結束
- 判斷字符為數字或字母數字
- 查找特定字符序列的出現次數
首先我們導入庫和數據
import pandas as pd
df = pd.read_csv("example.csv")
df
我們這個樣例的DataFrame 包含 6 行和 4 列。我們將使用不同的方法來處理 DataFrame 中的行。第一個過濾操作是檢查字符串是否包含特定的單詞或字符序列,使用 contains 方法查找描述字段包含“used car”的行。但是要獲得pandas中的字符串需要通過 Pandas 的 str 訪問器,代碼如下:
df[df["description"].str.contains("used car")]
但是為了在這個DataFrame中找到所有的二手車,我們需要分別查找“used”和“car”這兩個詞,因為這兩個詞可能同時出現,但是并不是連接在一起的:
df[df["description"].str.contains("used") &
df["description"].str.contains("car")]
可以看到最后一行包含“car”和“used”,但不是一起。
下一個方法是根據字符串的長度進行過濾。假設我們只對超過 15 個字符的描述感興趣。可以使用內置的 len 函數來執行此操作,如下所示:
df[df["description"].apply(lambda x: len(x) > 15)]
這里就需要編寫了一個 lambda 表達式,通過在表達式中使用 len 函數獲取長度并使用apply函數將其應用到每一行。執行此操作的更常用和有效的方法是通過 str 訪問器來進行:
df[df["description"].str.len() > 15]
我們可以分別使用startswith和endswith基于字符串的第一個或最后一個字母進行過濾。
df[df["lot"].str.startswith("A")]
這個方法也能夠檢查前 n 個字符。例如,我們可以選擇以“A-0”開頭的行:
df[df["lot"].str.startswith("A-0")]
Python 的內置的字符串函數都可以應用到Pandas DataFrames 中。例如,在價格列中,有一些非數字字符,如 $ 和 k。我們可以使用 isnumeric 函數過濾掉。
df[df["price"].apply(lambda x: x.isnumeric()==True)]
同樣如果需要保留字母數字(即只有字母和數字),可以使用 isalphanum 函數,用法與上面相同。
count 方法可以計算單個字符或字符序列的出現次數。例如,查找一個單詞或字符出現的次數。
我們這里統計描述欄中的“used”的出現次數:
df["description"].str.count("used")
# 結果
0 1
1 0
2 1
3 1
4 1
5 0
Name: description, dtype: int64
如果想使用它進行條件過濾,只需將其與一個值進行比較,如下所示:
df[df["description"].str.count("used") < 1]
非常簡單吧
本文介紹了基于字符串值的 5 種不同的 Pandas DataFrames 方式。雖然一般情況下我們更關注數值類型的數據,但文本數據同樣重要,并且包含許多有價值的信息。能夠對文本數據進行清理和預處理對于數據分析和建模至關重要。
附:pandas 中 按條件過濾字符串類型的值
一、使用~對字符串值取反:
1、測試數據
test_df
total_bill tip smoker day time size tip_pct
57 26.41 1.50 No Sat Dinner 2 0.056797
0 16.99 1.01 No Sun Dinner 2 0.059447
48 28.55 2.05 No Sun Dinner 3 0.071804
146 18.64 1.36 No Thur Lunch 3 0.072961
130 19.08 1.50 No Thur Lunch 2 0.078616
237 32.83 1.17 Yes Sat Dinner 2 0.035638
102 44.30 2.50 Yes Sat Dinner 3 0.056433
187 30.46 2.00 Yes Sun Dinner 5 0.065660
210 30.06 2.00 Yes Sat Dinner 3 0.066534
240 27.18 2.00 Yes Sat Dinner 2 0.073584
2、需求:取出 day 字段中值不為 ‘Sta’,‘Sun’ 的記錄
test_df[~test_df['day'].str.contains('|'.join(['Sat', 'Sun']))]
total_bill tip smoker day time size tip_pct
146 18.64 1.36 No Thur Lunch 3 0.072961
130 19.08 1.50 No Thur Lunch 2 0.078616
總結
原文鏈接:https://blog.csdn.net/deephub/article/details/126314732
相關推薦
- 2022-07-09 Harbor鏡像倉庫搭建
- 2023-02-05 詳解Golang中Context的三個常見應用場景_Golang
- 2022-12-05 Go方法接收者值接收者與指針接收者詳解_Golang
- 2022-03-17 .NET?6開發TodoList應用實現系列背景_實用技巧
- 2023-04-06 Python中有哪些關鍵字及關鍵字的用法_python
- 2022-07-07 Python數據分析之?Matplotlib?折線圖繪制_python
- 2022-05-10 原生ajax 斷網和請求超時
- 2022-01-25 項目啟動的時候報Exception in thread main 錯誤解決方法
- 最近更新
-
- window11 系統安裝 yarn
- 超詳細win安裝深度學習環境2025年最新版(
- Linux 中運行的top命令 怎么退出?
- MySQL 中decimal 的用法? 存儲小
- get 、set 、toString 方法的使
- @Resource和 @Autowired注解
- Java基礎操作-- 運算符,流程控制 Flo
- 1. Int 和Integer 的區別,Jav
- spring @retryable不生效的一種
- Spring Security之認證信息的處理
- Spring Security之認證過濾器
- Spring Security概述快速入門
- Spring Security之配置體系
- 【SpringBoot】SpringCache
- Spring Security之基于方法配置權
- redisson分布式鎖中waittime的設
- maven:解決release錯誤:Artif
- restTemplate使用總結
- Spring Security之安全異常處理
- MybatisPlus優雅實現加密?
- Spring ioc容器與Bean的生命周期。
- 【探索SpringCloud】服務發現-Nac
- Spring Security之基于HttpR
- Redis 底層數據結構-簡單動態字符串(SD
- arthas操作spring被代理目標對象命令
- Spring中的單例模式應用詳解
- 聊聊消息隊列,發送消息的4種方式
- bootspring第三方資源配置管理
- GIT同步修改后的遠程分支