




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
CephRADOS簡介(Reliable,AutonomicDistributedObjectStore)京東虛擬化總監何雨heyu@2021/6/271架構簡介兩個部分組成:由數目可變的大規模OSDs(ObjectStorageDevices)組成的集群,負責存儲所有的Objects數據由少量Monitors組成的強耦合、小規模集群,負責管理ClusterMap,其中ClusterMap是整個RADOS系統的關鍵數據結構,管理集群中的所有成員、關系、屬性等信息以及數據的分發。2021/6/2722021/6/273ClusterMap管理cluster的核心數據結構指定了OSDs和數據分布信息monitor上存有最新副本依靠epoch增加來維護及時更新增量信息2021/6/274ClusterMap1.TheMonitorMapclusterfsid,theposition,nameaddressandportofeachmonitor2.TheOSDMapclusterfsid,alistofpools,replicasizes,PGnumbers,alistofOSDsandtheirstatus3.ThePGMap:PGversion,itstimestamp,thelastOSDmapepoch,thefullratios,anddetailsoneachplacementgroupsuchasthePGID,theUpSet,theActingSet,thestateofthePG(e.g.,active+clean),anddatausagestatisticsforeachpool.4.TheCRUSHMapalistofstoragedevices,thefailuredomainhierarchy(e.g.,device,host,rack,row,room,etc.),andrulesfortraversingthehierarchywhenstoringdata5.TheMDSMapMDSmapepoch,thepoolforstoringmetadata,alistofmetadataservers,andwhichmetadataserversareupandin2021/6/275數據存放1.Object到PG的映射。PG(PlacementGroup)是Objects的邏輯集合。相同PG里的Object會被系統分發到相同的OSDs集合中。由Object的名稱通過Hash算法得到的結果結合其他一些修正參數可以得到Object所對應的PG。2.RADOS系統根據根據ClusterMap將PGs分配到相應的OSDs。這組OSDs正是PG中的Objects數據的存儲位置。RADOS采用CRUSH算法實現了一種穩定、偽隨機的hash算法。CRUSH實現了平衡的和與容量相關的數據分配策略。CRUSH得到的一組OSDs還不是最終的數據存儲目標,需要經過初步的filter,因為對于大規模的分布式機群,宕機等原因使得部分節點可能失效,filter就是為過濾這些節點,如果過濾后存儲目標不能滿足使用則阻塞當前操作。2021/6/2762021/6/277關于pools是一個存儲對象的邏輯分區概念所有權/訪問對象對象副本的數目PG數目CRUSH規則集的使用以上后三項決定ceph最后如何存儲數據2021/6/278計算PG的ID1.Client輸入poolID和對象ID(如pool=‘liverpool’,object-id=‘john’)2.CRUSH獲得對象ID并對其hash3.CRUSH計算OSD個數hash取模獲得PG的ID(如0x58)4.CRUSH獲得已命名pool的ID(如liverpool=4)5.CRUSH預先考慮到poolID相同的PGID(如4.0x58)2021/6/279DeviceState
— in out— — assignedPGs notassignedPGsup online active online&idle &reachabledown unreachable unreachable failed ¬remapped2021/6/2710peer和setpeer屬于同一個PG彼此檢查心跳數據同步setActingsetPG內所有osd屬于ActingsetUpsetPG內up&in的osd2021/6/2711map傳播所有消息傳播都有一個epochclient端:首次進入去找monitor要最新副本存取時找OSD對比epochOSD端:peers之間保持心跳只保證兩個OSD之間同步2021/6/2712數據復制讀文件通過一個OSD主OSD寫文件通過多個OSD復制Client把對象寫進一個確定的PG組中的主OSD主OSD利用CRUSHmap用來確定二級OSDs,復制的對象放入其中。對象存儲成功后進行響應client。2021/6/2713數據復制2021/6/2714錯誤檢測和恢復錯誤檢測:利用心跳上報monitor更新map錯誤恢復主osd主持恢復工作若主osd掛掉,二級osd選擇一個頂上2021/6/27152021/6/2716數據條帶化由于存儲設備吞吐量的限制,影響性能和可伸縮性。跨多個存儲設備的連續塊條帶化存儲信息,以提高吞吐量和性能Ceph條帶化相似于RAID0注意:ceph條帶化屬于client端,不在RADOS范疇2021/6/2717注意:條帶化是獨立于對象副本的。由于CRUSH副本對象跨越OSDs,所以條帶自動的被復制。2021/6/2718條帶化參數ObjectSize:足夠大可以容納條帶單元,必須容納一個或者多個條帶單元
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 母乳喂養的相關知識及技巧
- 連體餐盒采購方案范本
- 愛樂貓迷你四驅車課程
- 工廠聲屏障的施工方案
- 上海中醫藥大學《控制科學與工程專題》2023-2024學年第二學期期末試卷
- 上海閔行職業技術學院《專業方向與實踐(養生)》2023-2024學年第二學期期末試卷
- 山西水利職業技術學院《Hadoop大數據存儲與計算》2023-2024學年第二學期期末試卷
- 洞室化灌止水施工方案
- 凍煤破碎施工方案
- 長春工業大學《廣告文案》2023-2024學年第一學期期末試卷
- 圖書管理員的崗位技能要求與試題及答案
- 自體輸血管理制度與技術規范
- 2025年鄉村醫生考試題庫:農村醫療衛生服務體系建設核心知識試題
- 2025年鄭州鐵路職業技術學院單招職業適應性測試題庫附答案
- XX鄉鎮履職事項清單表(1356項)
- 2025年高考作文備考:武漢市二調10篇范文+深圳一模4篇范文匯編
- 2025年共青團入團考試測試題庫及答案
- 2025年宣傳崗筆試題庫及答案
- 2024年漳州市醫院招聘考試真題
- 售后技術服務年終總結
- 磷酸鐵及磷酸鐵鋰異物防控管理
評論
0/150
提交評論