數據標準應用實例_第1頁
數據標準應用實例_第2頁
數據標準應用實例_第3頁
數據標準應用實例_第4頁
數據標準應用實例_第5頁
已閱讀5頁,還剩8頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

數據標準主講:孫靜化歸一化描述:將數據映射到指定的范圍,如:把數據映射到0~1或-1~1的范圍之內處理。作用:數據映射到指定的范圍內進行處理,更加便捷快速。把有量綱表達式變成無量綱表達式,便于不同單位或量級的指標能夠進行比較和加權。經過歸一化后,將有量綱的數據集變成純量,還可以達到簡化計算的作用。常見做法:min-max歸一化歸一化min-max歸一化python實現:--(1) 導入數據并刪除我們不要的列:importnumpyasnpimportpandasaspddf=pd.read_excel('C://Users/Administrator/Desktop/data_py.xlsx',sheet_name='廣州',encoding='utf-8')df.drop(columns="時間",axis=1,inplace=True)df.set_index([[2010,2011,2012,2013,2014,2015,2016,2017,2018]],inplace=True)df.drop(columns=['第二產業產值占比','第三產業產值占比','一般工業固體廢物綜合利用率'],axis=1,inplace=True)歸一化min-max歸一化python實現:(2) 查看數據:數據不同列的數據量級差別較大。如果這個時候我們想要利用這個數據表來衡量廣州市的發展情況時,地區生產總值、公共財政收入、人均生產總值這三項特征就會起到主導作用從而遮蓋住其他的特征,這樣的模型效果是很差的,因此我們可以通過歸一化來解決這個問題。歸一化min-max歸一化python實現:(3) Min-Max歸一化:foriinlist(df.columns):#獲取各個指標的最大值和最小值Max=np.max(df[i])Min=np.min(df[i])df[i]=(df[i]-Min)/(Max-Min)歸一化min-max歸一化python實現:(4) 查看歸一化結果:標準化數據標準化方法有多種,如:直線型方法(如極值法、標準差法)、折線型方法(如三折線法)、曲線型方法(如半正態性分布)。不同的標準化方法,對系統的評價結果會產生不同的影響。其中,最常用的是Z-Score標準化。Z-Score標準化:--將原數據轉換為符合均值為0,標準差為1的標準正態分布

的新數據。

為數據均值(mean),為標準差(std)標準化-作用1、提升模型的收斂速度(加快梯度下降的求解速度)2、提升模型的精度(消除量級和量綱的影響)3、簡化計算(與歸一化的簡化原理相同)標準化-python-實現fromsklearnimportpreprocessingdf=pd.read_excel('C://Users/Administrator/Desktop/data_py.xlsx',sheet_name='廣州',encoding='utf-8')df.drop(columns="時間",axis=1,inplace=True)df.set_index([[2010,2011,2012,2013,2014,2015,2016,2017,2018]],inplace=True)df.drop(columns=['第二產業產值占比','第三產業產值占比','一般工業固體廢物綜合利用率'],axis=1,inplace=True)Z-Score標準化,最簡便、也是L推薦的方法是用:sklearn庫里的StandardScaler()。標準化-python實例化實例化:zscore=preprocessing.StandardScaler()#zscore標準化zscore=zscore.fit_transform(df)查看標準化后的數據:df_zscore=pd.DataFrame(zscore,index=df.index,columns=df.columns)df_zscore標準化-小結歸一化/標準化實質是一種線性變換,線性變換有很多良好的性質,這些性質決定了對數據改變后不會造成“失效”,反而能提高數據的表現,這些性質是歸一化/標準化的前提。比如有一個很重要的性質:線性變換不會改變原始數據的數值排序。用Min-Max還是用Z-Score?1、數據的分布本身就服從正態分布,使用Z-Score。2、有離群值的情況:使用Z-Score。注:這里不是說有離群值時使用Z-Score不受影響,而是,Min-Max對于離群值十分敏感,因為離群值的出現,會影響數據中max或min值,從而使Min-Max的效果很差。相比之下,雖然使用Z-Score計算方差和均值的時候仍然會受到離群值的影響,但是相比于Min-Max法,影響會小一點。標準化中的robustRobust:計算機科學中,健壯性(英語:Robustness)是指一個計算機系統在執行過程中處理錯誤,以及算法在遭遇輸入、運算等異常時繼續正常運行的能力。諸如模糊測試之類的形式化方法中,必須通過制造錯誤的或不可預期的輸入來驗證程序的健壯性。三個層面概念:一是模型具有較高的精度或有效性,這也是對于機

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論