一区二区三区在线-一区二区三区亚洲视频-一区二区三区亚洲-一区二区三区午夜-一区二区三区四区在线视频-一区二区三区四区在线免费观看

腳本之家,腳本語言編程技術及教程分享平臺!
分類導航

Python|VBS|Ruby|Lua|perl|VBA|Golang|PowerShell|Erlang|autoit|Dos|bat|

服務器之家 - 腳本之家 - Python - Python進行數據提取的方法總結

Python進行數據提取的方法總結

2020-09-04 13:41bluewhale Python

數據提取是分析師日常工作中經常遇到的需求。如某個用戶的貸款金額,某個月或季度的利息總收入,某個特定時間段的貸款金額和筆數,大于5000元的貸款數量等等。本篇文章介紹如何通過python按特定的維度或條件對數據進行提取

準備工作

首先是準備工作,導入需要使用的庫,讀取并創建數據表取名為loandata。

?
1
2
3
import numpy as np
import pandas as pd
loandata=pd.DataFrame(pd.read_excel('loan_data.xlsx'))

Python進行數據提取的方法總結

設置索引字段

在開始提取數據前,先將member_id列設置為索引字段。然后開始提取數據。

?
1
Loandata = loandata.set_index('member_id')

Python進行數據提取的方法總結

按行提取信息

第一步是按行提取數據,例如提取某個用戶的信息。下面使用ix函數對member_id為1303503的用戶信息進行了提取。

?
1
loandata.ix[1303503]

Python進行數據提取的方法總結

按列提取信息

第二步是按列提取數據,例如提取用戶工作年限列的所有信息,下面是具體的代碼和提取結果,顯示了所有用戶的工作年齡信息。

?
1
loandata.ix[:,'emp_length']

Python進行數據提取的方法總結

按行與列提取信息

第三步是按行和列提取信息,把前面兩部的查詢條件放在一起,查詢特定用戶的特定信息,下面是查詢member_id為1303503的用戶的emp_length信息。

?
1
loandata.ix[1303503,'emp_length']

Python進行數據提取的方法總結

在前面的基礎上繼續增加條件,增加一行同時查詢兩個特定用戶的貸款金額信息。具體代碼和查詢結果如下。結果中分別列出了兩個用戶的代碼金額。

?
1
loandata.ix[[1303503,1298717],'loan_amnt']

Python進行數據提取的方法總結

在前面的代碼后增加sum函數,對結果進行求和,同樣是查詢兩個特定用戶的貸款進行,下面的結果中直接給出了貸款金額的匯總值。

?
1
loandata.ix[[1303503,1298717],'loan_amnt'].sum()

Python進行數據提取的方法總結

除了增加行的查詢條件以外,還可以增加列的查詢條件,下面的代碼中查詢了一個特定用戶的貸款金額和年收入情況,結果中分別顯示了這兩個字段的結果。

?
1
loandata.ix[1303503,['loan_amnt','annual_inc']]

Python進行數據提取的方法總結

多個列的查詢也可以進行求和計算,在前面的代碼后增加sum函數,對這個用戶的貸款金額和年收入兩個字段求和,并顯示出結果。

?
1
loandata.ix[1303503,['loan_amnt','annual_inc']].sum()

Python進行數據提取的方法總結

提取特定日期的信息

數據提取中還有一種很常見的需求就是按日期維度對數據進行匯總和提取,如按月,季度的匯總數據提取和按特定時間段的數據提取等等。

設置索引字段

首先將索引字段改為數據表中的日期字段,這里將issue_d設置為數據表的索引字段。按日期進行查詢和數據提取。

?
1
loandata = loandata.set_index('issue_d')

Python進行數據提取的方法總結

按日期提取信息

下面的代碼查詢了所有2016年的數據。

?
1
loandata['2016']

Python進行數據提取的方法總結

在前面代碼的基礎上增加月份,查詢所有2016年3月的數據。

?
1
loandata['2016-03']

Python進行數據提取的方法總結

繼續在前面代碼的基礎上增加日期,查詢所有2016年6月16日的數據。

?
1
loandata['2016-06-16']


Python進行數據提取的方法總結

除了按單獨日期查詢以外,還可以按日期段進行數據查詢,下面的代碼中查詢了所有2016年1月至5月的數據。下面顯示了具體的查詢結果,可以發現數據的日期都是在1-5月的,但是按日期維度顯示的,這就需要我們對數據按月進行匯總。

?
1
loandata['2016-01':'2016-05']

Python進行數據提取的方法總結

按日期匯總信息

Pandas中的resample函數可以完成日期的聚合工作,包括按小時維度,日期維度,月維度,季度及年的維度等等。下面我們分別說明。首先是按周的維度對前面數據表的數據進行求和。下面的代碼中W表示聚合方式是按周,how表示數據的計算方式,默認是計算平均值,這里設置為sum,進行求和計算。

?
1
loandata.resample('W',how=sum).head(10)

Python進行數據提取的方法總結

將W改為M,數據變成了按月聚合的方式。計算方式依然是求和。這里需要說明的是resample函數會顯示出所有連續的時間段,例如前面按周的聚合操作會顯示連續的周日期,這里的按月操作則會在結果中顯示連續的月,如果某個時間段沒有數據,會以NaN值顯示。

?
1
loandata.resample('M',how=sum)

Python進行數據提取的方法總結

將前面代碼中的M改為Q,則為按季度對數據進行聚合,計算方式依然為求和。從下面的數據表中看,日期顯示的都是每個季度的最后一天,如果希望以每個季度的第一天顯示,可以改為QS。

?
1
loandata.resample('Q',how=sum)

Python進行數據提取的方法總結

將前面代碼中的Q改為A,就是按年對數據進行聚合,計算方式依然為求和。

?
1
loandata.resample('A',how=sum)

Python進行數據提取的方法總結

前面的方法都是對整個數據表進行聚合和求和操作,如果只需要對某一個字段的值進行聚合和求和,可以在數據表后增加列的名稱。下面是將貸款金額字段按月聚合后求和,并用0填充空值。

?
1
loandata['loan_amnt'].resample('M',how=sum).fillna(0)

Python進行數據提取的方法總結

在前面代碼的基礎上再增加一個數值字段,并且在后面的計算方式中增加len用來計數。在下面的結果中分別對貸款金額和利息收入按月聚合,并進行求和和計數計算

?
1
loandata[['loan_amnt','total_rec_int']].resample('M',how=[len,sum])

Python進行數據提取的方法總結

有時我們需要只對某一時間段的數據進行聚合和計算,下面的代碼中對2016年1月至5月的數據按月進行了聚合,并計算求和。用0填充空值。

?
1
loandata['2016-01':'2016-05'].resample('M',how=sum).fillna(0)

Python進行數據提取的方法總結

或者只對某些符合條件的數據進行聚合和計算。下面的代碼中對于貸款金額大于5000的按月進行聚合,并計算求和。空值以0進行填充。

?
1
loandata[loandata['loan_amnt']>5000].resample('M',how=sum).fillna(0)

Python進行數據提取的方法總結

除了按周,月,季度和年以外,resample函數還可以按以下方式對日期進行聚合。

下面給出了具體的對應表和說明。

 Python進行數據提取的方法總結

總結

以上就是利用python按特定的維度或條件對數據進行提取的全部內容,希望本文的內容對大家學習使用Python能有所幫助。

原文鏈接:http://bluewhale.cc/2016-08-22/data-extraction-using-python.html

延伸 · 閱讀

精彩推薦
主站蜘蛛池模板: 国产好痛疼轻点好爽的视频 | 唯美清纯 自拍偷 | 国产男技师 | 国产精品久久久久网站 | 男女性刺激爽爽免费视频 | 成年人在线观看视频免费 | 办公室的秘密在线观看 | 69av导航| 精品国产福利在线观看一区 | 国产成人福利美女观看视频 | 亚洲精品卡一卡2卡3卡4卡 | 国产免费好大好硬视频 | 天天做天天爱天天爽综合区 | 亚洲高清中文字幕一区二区三区 | 午夜片神马影院福利 | 国模孕妇季玥全部人体写真 | 91麻豆精品国产自产在线观看 | 草莓绿巨人香蕉茄子芭乐 | 99热这里只有精品在线 | 蜜桃视频在线观看www | 九九99精品| 国产成人亚洲精品一区二区在线看 | 亚洲视频1| 特大黑人娇小亚洲女mp4 | 91国产在线第7页 | 男女刺激高清视频在线观看 | 女教师波多野结衣高清在线 | 日韩欧美一区二区三区免费观看 | 北岛玲亚洲一区在线观看 | 九九九九九九精品免费 | 欧美日本一道高清免费3区 欧美人做人爱a全程免费 | 国产90后美女露脸在线观看 | 亚洲成色爱我久久 | 窝窝影院午夜色在线视频 | 艹出白浆 | 免费在线观看网址大全 | 韩剧在线观看 | 国产成人亚洲精品91专区高清 | 亚洲天堂男人的天堂 | 国产亚洲精品九九久在线观看 | 亚洲国产美女精品久久 |