已閱讀5頁，還剩2頁未讀， 繼續免費閱讀
版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領
文檔簡介
RDD創建方式目錄/Contents01通過讀取文件生成RDD02通過并行化方式創建RDD通過讀取文件生成RDD01通過讀取文件生成RDDSpark是支持使用任何Hadoop支持的存儲系統上的文件創建RDD的，比如說HDFS、Cassandra、HBase以及本地文件。通過調用SparkContext的textFile()方法，可以針對本地文件或HDFS文件創建RDD。1．通過加載本地文件數據創建RDD2．通過加載HDFS文件數據創建RDD通過并行化方式創建RDD02通過并行化方式創建RDD如果要通過并行化集合來創建RDD，需要針對程序中已經存在的集合、數組，調用SparkContext中的parallelize()方法。Spark會將集合中的數據拷貝到集群上去，形成一個分布式的數據集合，也就是一個RDD。即：集合中的部分數據會到一個節點上，而另一部分數據會到其它節點上。然后就可以采用并行的方式來操作這個分布式數據集合。感謝大家的聆聽
溫馨提示
- 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙，網頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間，僅對用戶上傳內容的表現方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容，請與我們聯系，我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
評論
0/150
提交評論