




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
Storm–流式處理框架——講師:龐磊01Storm并發機制02Storm通信機制01Storm并發機制Storm并發機制01WorkerprocessesExecutors(threads)TasksStorm并發機制02Worker–進程一個Topology拓撲會包含一個或多個Worker(每個Worker進程只能從屬于一個特定的Topology)這些Worker進程會并行跑在集群中不同的服務器上,即一個Topology拓撲其實是由并行運行在Storm集群中多臺服務器上的進程所組成Executor–線程Executor是由Worker進程中生成的一個線程每個Worker進程中會運行拓撲當中的一個或多個Executor線程一個Executor線程中可以執行一個或多個Task任務(默認每個Executor只執行一個Task任務),但是這些Task任務都是對應著同一個組件(Spout、Bolt)。Task實際執行數據處理的最小單元每個task即為一個Spout或者一個BoltTask數量在整個Topology生命周期中保持不變,Executor數量可以變化或手動調整(默認情況下,Task數量和Executor是相同的,即每個Executor線程中默認運行一個Task任務)Storm并發機制03設置Worker進程數Config.setNumWorkers(intworkers)設置Executor線程數TopologyBuilder.setSpout(Stringid,IRichSpoutspout,Numberparallelism_hint)TopologyBuilder.setBolt(Stringid,IRichBoltbolt,Numberparallelism_hint):其中,parallelism_hint即為executor線程數設置Task數量ComponentConfigurationDeclarer.setNumTasks(Numberval)例:Configconf=newConfig();conf.setNumWorkers(2);TopologyBuildertopologyBuilder=newTopologyBuilder();topologyBuilder.setSpout("spout",newMySpout(),1);topologyBuilder.setBolt("green-bolt",newGreenBolt(),2).setNumTasks(4).shuffleGrouping("blue-spout);Storm并發機制04Storm并發機制05Rebalance–再平衡即,動態調整Topology拓撲的Worker進程數量、以及Executor線程數量支持兩種調整方式:1、通過StormUI2、通過StormCLI通過StormCLI動態調整:例:stormrebalancemytopology-n5-eblue-spout=3-eyellow-bolt=10將mytopology拓撲worker進程數量調整為5個“blue-spout”所使用的線程數量調整為3個“yellow-bolt”所使用的線程數量調整為10個02Storm通信機制Storm通信機制01Worker進程間的數據通信ZMQZeroMQ開源的消息傳遞框架,并不是一個MessageQueueNettyNetty是基于NIO的網絡框架,更加高效。(之所以Storm0.9版本之后使用Netty,是因為ZMQ的license和Storm的license不兼容。)Worker內部的數據通信Disruptor實現了“隊列”的功能。可以理解為一種事件監聽或者消息處理機制,即在隊列當中一邊由生產者放入消
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 白酒定制產品合同協議
- 電纜回收搬運合同協議
- 特殊奶粉轉讓協議合同
- 甲乙雙方用油協議合同
- 甲方租賃儀器合同協議
- 甘肅建筑外架合同協議
- 電子商務運營合同協議
- 電子配件供貨合同協議
- 甲醇采購技術協議合同書
- 玻璃泥輪銷售合同協議
- 【2021部編版語文】-三年級下冊第七單元教材解讀--PPT課件
- DB 33-T 1015-2021居住建筑節能設計標準(高清正版)
- 鋼結構門式剛架廠房設計土木工程畢業設計
- 橙色黑板風小學生知識產權科普PPT模板
- 中國供銷合作社標識使用手冊課件
- 幼兒園兒歌100首
- Q∕CR 9218-2015 鐵路隧道監控量測技術規程
- 甲狀腺解剖及正常超聲切面ppt課件
- 易學書籍大全291本
- 上海市城市地下空間建設用地審批及房地產登記試行規定
- 蠕墨鑄鐵項目可行性研究報告寫作范文
評論
0/150
提交評論