時間object轉換datetime實例

首先說一下：

• 1/17/07 has the format “%m/%d/%y”
• 17-1-2007 has the format “%d-%m-%Y”

這是一部分的時間轉換格式，通過以上的格式，你可以將DataFrame中的時間格式轉換為以下等python格式：

0   2007-03-02
1   2007-03-22
2   2007-04-06
3   2007-04-14
4   2007-04-15
Name: date_parsed, dtype: datetime64[ns]

dtype:datetime64，這是轉換過后的形式，其實你可以將原數據使用dtype查看列，來看它的格式。你會發現它是object形式的。這個object格式一般是python用來記錄可變化的兌現的格式。這個格式并不能認出是時間格式，盡管我們一眼就能看出，但機器不行。

data = pd.read_csv('path')    # 獲取data數據
data['date'].head()  # 查看一下日期列

0    01/02/1965
1    01/04/1965
2    01/05/1965
3    01/08/1965
4    01/09/1965
Name: Date, dtype: object

可以看出它為object格式，并非日期格式。

data['date_parsed'] = pd.to_datetime(data['date'], format="%m/%d/%y")

上面我們按python格式轉換時間，并添加到新的一列中去。

dara['date_parsed'].head()    #查看一下結果
1
0    1965-01-02
1    1965-01-04
2    1965-01-05
3    1965-01-08
4    1965-01-09
 
Name: data_parsed, dtype: datetime64[ns]

處理過程中可能會出現問題：

/opt/conda/lib/python3.6/site-packages/pandas/core/tools/datetimes.py in _convert_listlike(arg, box, format, name, tz)
? ? 271 ? ? ? ? ? ? ? ? ? ? try:
? ? 272 ? ? ? ? ? ? ? ? ? ? ? ? result = array_strptime(arg, format, exact=exact,
--> 273 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? errors=errors)
? ? 274 ? ? ? ? ? ? ? ? ? ? except tslib.OutOfBoundsDatetime:
? ? 275 ? ? ? ? ? ? ? ? ? ? ? ? if errors == 'raise':
?
pandas/_libs/tslibs/strptime.pyx in pandas._libs.tslibs.strptime.array_strptime()
?
ValueError: time data '1975-02-23T02:58:41.000Z' does not match format '%m/%d/%Y' (match)

反復的驗證后發現應該是原數據有問題，部分時間數據格式有誤：

比如： 1965-01-02，這是正常時間格式，但是有的時間數據是：1965-01-028、1969-011-26 等情況，時間數據長度超過正常的len=10.

因此我們需要數據預處理，清洗數據。

數據預處理

方式一

添加一列記錄為每行時間的長度，apply(len)：傳入len()函數，處理Date列數據。

data['over_long'] = data['Date'].apply(len)  # 添加一列記錄為每行時間的長度，apply(len)：傳入len()函數
data.loc[data['over_long'] > 10]    # 輸出大于正常數據的行   這里會發現缺失有那么幾行在作怪！！！

正常處理：

normal_dates = data.loc[data['over_long'] < 11]    # 篩選出正常數據
normal_dates = normal_dates.copy()        # 拷貝
normal_dates['data_parsed'] = pd.to_datetime(normal_dates['Date'],format='%m/%d/%Y')    # 再次轉換時間，沒有報錯
normal_dates['data_parsed'].head(10)    # 輸出查看沒問題的數據

方式二

data['date_parsed'] = pd.to_datetime(data['Date'], format = "%m/%d/%Y", errors = 'coerce')

errors = 'coerce'

Pandas數據轉換時遇到不能轉換的數據轉為NaN的參數設置 errors='coerce'

Pandas 提供了一個可選的參數 errors，傳入 errors='coerce'，Pandas 遇到不能轉換的數據就會賦值為 NaN（Not a Number）

在這里，Pandas 遇到不能轉化的時間數據后會賦值 Nan 并跳過。

方式三

data['date_parsed'] = pd.to_datetime(data['Date'], infer_datetime_format=True)

infer_datetime_format: boolean類型, default False

如果設定為True并且 parse_dates 可用，那么pandas將嘗試轉換為日期類型，如果可以轉換，轉換方法并解析。在某些情況下會快5~10倍。

在這里，Pandas 遇到不能轉化的時間數據后會跳過。

參考：

Link

Link