




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
Hadoop大數(shù)據(jù)項目開發(fā)——單詞統(tǒng)計分析-Reducer代碼實現(xiàn)目錄content02Reducer類的編寫01Mapper類的編寫03Driver類的編寫Reducer類的編寫Mapper類編寫完成之后,需要編寫Reducer類新建WordCountReducer類,該類繼承了org.apache.hadoop.mapreduce.Reducer類。并重寫了reduce()方法,鍵值相同的數(shù)據(jù)會在同一個Reduce任務(wù)中處理,WordCountReducer類的代碼如圖所示:Reducer類的編寫importjava.io.IOException;importjava.util.Iterator;importorg.apache.hadoop.io.IntWritable;importorg.apache.hadoop.io.Text;importorg.apache.hadoop.mapreduce.Reducer;publicclassWordcountReducerextendsReducer<Text,IntWritable,Text,IntWritable>{ @Override protectedvoidreduce(Textkey,Iterable<IntWritable>values, Contextcontext)throwsIOException,InterruptedException{ intcount=0; Iterator<IntWritable>iterator=values.iterator(); while(iterator.hasNext()){ IntWritablevalue=iterator.next(); count+=value.get();//對相同鍵值的單詞鍵值進(jìn)行累加 } context.write(key,newIntWritable(count)); }}Reducer類的編寫在代碼中使用extends關(guān)鍵字繼承Reducer<KEYIN,VALUEIN,KEYOUT,VALUEOUT>類;該Reducer功能主要用來實現(xiàn)對相同鍵值的單詞鍵值進(jìn)行累加;此時Mapper的輸出,經(jīng)過Shuffle過程,成為Reducer的輸入;所以Reducer<KEYIN,VALUEIN,KEYOUT,VALUEOUT>數(shù)據(jù)類型與Mapper輸出的數(shù)據(jù)類型一致,即Reducer<Text,IntWritable,Text,IntWritable>。Reducer類的編寫KEYIN為Mapper任務(wù)key的輸出類型,也等同于Reducer任務(wù)key的輸入類型;VALUEIN為Mapper任務(wù)value的輸出類型,也等同于Reducer任務(wù)value的輸入類型;KEYOUT為Ruducer任務(wù)中reduce方法要返回的結(jié)果Key-Value中的key的數(shù)據(jù)類型,在WordCount邏輯中,需要輸出的單詞是字符型,在MapReduce中使用Text;VALUEOUT為Ruducer任務(wù)中reduce方法要返回的結(jié)果Key-Value中value的數(shù)據(jù)類型,在wordcount邏輯中,需要輸出的單詞數(shù)量是整數(shù),在MapReduce中使用IntWritable。重寫reduce方法然后需要重寫reducer方法;上述代碼中對map方法的重寫,可以通過快捷鍵實現(xiàn),使用Alt+Insert組合鍵會出現(xiàn)提示,如下所示:重寫reduce方法在生成類的各項基本方法界面中選擇OverrideMethods,出現(xiàn)可以重寫的方法,選擇重寫方法界面如右圖所示:重寫reduce方法刪除此行選中要重寫的方法之后,會出現(xiàn)如圖代碼,將代碼中的super.reduce(key,values,context);刪除。intcount=0;Iterator<IntWritable>iterator=values.iterator();while(iterator.hasNext()){//判斷是否還有元素 IntWritablevalue=iterator.next();//獲取下一個元素 count+=value.get();//對相同鍵值的單詞鍵值進(jìn)行累加}context.write(key,newIntWritable(count));重寫reduce方法在reduce
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 世紀(jì)英才文化課件六上
- 財務(wù)人員勞動合同擔(dān)保書
- 肇慶市實驗中學(xué)高三上學(xué)期語文高效課堂教學(xué)設(shè)計:文言文特殊句式練習(xí)
- 地下停車庫租賃合同范本
- 四川省雅安市寶興縣2024-2025學(xué)年六年級下學(xué)期小升初真題數(shù)學(xué)試卷含解析
- 遼寧省撫順市撫順縣2025屆五下數(shù)學(xué)期末經(jīng)典試題含答案
- 太原師范學(xué)院《中醫(yī)傳染病學(xué)》2023-2024學(xué)年第一學(xué)期期末試卷
- 江西省南昌二中2025屆高三數(shù)學(xué)試題質(zhì)量檢測試題(一)數(shù)學(xué)試題試卷含解析
- 四川省涼山彝族自治州甘洛縣2025年三年級數(shù)學(xué)第二學(xué)期期末質(zhì)量跟蹤監(jiān)視模擬試題含解析
- 寧夏醫(yī)科大學(xué)《職業(yè)生涯開發(fā)》2023-2024學(xué)年第二學(xué)期期末試卷
- DLT 5175-2021 火力發(fā)電廠熱工開關(guān)量和模擬量控制系統(tǒng)設(shè)計規(guī)程-PDF解密
- 公路工程設(shè)計方案設(shè)計工作量及計劃安排
- 5G+“三早”糖尿病管理2024課件
- 足球必修課課程教學(xué)大綱
- 玻璃鋼錨桿生產(chǎn)工藝
- 售后工程師的快速響應(yīng)和問題解決能力
- 國開電大 可編程控制器應(yīng)用實訓(xùn) 形考任務(wù)1答案
- 河北省建筑施工安全技術(shù)資料管理標(biāo)準(zhǔn)表格
- 自動打標(biāo)機機械原理課程設(shè)計
- 全國優(yōu)質(zhì)課一等獎初中音樂《深情》課件
- 社區(qū)零星維修工程投標(biāo)方案(技術(shù)標(biāo))
評論
0/150
提交評論