李若甫ruofu.li@WOS?云存儲系統超大規模、面向對象、地理分布2014年6月18genda公司簡介傳統方案的困境WOS?定位與典型應用場景WOS?技術細節Q&ADDN公司簡介規模實力外部存儲的品牌廠商

–按收入排名DDN是世界上最大的私人持有的存儲廠商DDN是全球第四大存儲廠商Source:行業認證World’sLargestPrivately-HeldStorageCo.Fast500TechnologyCompanyInc.500|5000High-GrowthCompanyBestHPCStoragePlatformsBestPracticeforDigitalMediaHotTechnologyfor2012關鍵統計數據公司定位：提供高度可擴展和高效的存儲解決方案，幫助客戶快速成功、隨數據集的持續增長輕易擴展、解決性能和容量擴展問題從而獲得競爭優勢。1998年成立，總部位于Chatsworth,CaliforniaUSA；全球約700名雇員，覆蓋4大洲15個國家；擁有超1000家客戶，分布在50個國家，已交貨容量超過1EB(1ExaByte=1000PetaByte=106TeraByte)市場營銷策略:全球合作伙伴,增值分銷商,分銷商重點關注高性能計算與生命科學、云&網頁內容、富媒體、情報及監控等細分市場在大數據系統上的投資超過1億美元DDN|

全球大數據解決方案領導者大數據產品家族EXAScaler?10KsofClients1TB/s+,HSMLinux/WindowsClientsNFS&CIFSWOS?256BillionObjectsGeoReplicated8MillionObjects/SecondSelf-HealingMobileCloudAccessDirectMon大數據平臺管理方案SFA12K40GB/s/1.7MIOPS1,680Drives:16U-2RacksEmbeddedComputingSFA770010GB/s,600KIOPS60Drivesin4U;396Drivesin20UStorageFusionArchitecture?

CoreStoragePlatformsFlexibleDriveConfigurationSFXAutomatedFlashCachingReadWriteContextCommitInstantCommithScaler?50-2000Nodes200+DataSourcesHighSpeedETLUpto500%FasterResults企業級Hadoop一體機PB級Lustre?

存儲企業級水平擴展文件存儲GRIDScaler?1KsofClients1TB/s+,HSMLinux/WindowsClientsNFS&CIFSCloudTieringSASSATASSDCloudFoundation高性能計算與生命科學超算基因排序地震資料處理金融建模大學和實驗室研究DDN|目標市場：大數據媒體電視廣播后期處理數字中期動漫視頻點播政府/數字安全地理空間情報視頻監控大規模偵聽堅固耐用(rugged)解決方案云/互聯網/服務提供商網頁內容托管服務提供商存儲服務提供商個人云存儲DDN|1000+家世界領先的客戶傳統方案的困境NAS的不足NAS性能低下NAS設備管理了大量目錄元數據如果在每個目錄下存儲幾千個文件，讀一個幾KB的文件可能需要10個以上磁盤操作；即使將每個目錄下的文件數量削減為幾百個，為獲取1個小文件NAS系統仍然需要至少3個磁盤操作：將目錄元數據加載到內存并將文件名轉換為inodenumber、從磁盤上讀取inode、讀取文件本身NAS+NFS/CIFS成本高昂緩存文件句柄對longtail數據的性能幫助很小傳統CDN面臨的困境云備份、iCloud、電信運營商的話單日志、Facebook等SNS網站…上述海量數據中，longtail數據占很大比例傳統CDN使用RAM緩存實現低延遲、高并發，為熱點數據提供了高性能；但對longtail數據無能為力SizeofHDDSizeofRAMCDN的價值＝如何降低海量數據的存儲成本，降低訪問longtail數據的延遲，提高IO性能？LongtailCIO的困境BYOD、Cloud、Social、Mobile…BigData！預算有限，分身無術，客戶需要一個簡化的IT數據與應用系統緊密耦合，“牽一發動全身”擴容、改造、升級常受制于系統現狀及軟件開發商故障點多，管理復雜，TCO高，新增應用困難，擴容升級困難現有應用新增應用票據影像數據存儲票據影像數據存儲票據影像數據存儲數據索引索引索引索引Harddisk：第一次購買時最優RAID/LUN：安裝時用PND算法設定Filesystem:對現有應用優化VolumeManager：對現有數據優化DataFlow?安裝即過時——WOS?典型應用場景

及其生態系統2/7/1212WOS?：顛覆性的海量非結構化數據存儲方案對象被存儲在幾乎無限大的平面地址空間內；將數據保存在被稱為Object的容器里每個Object都有data和metadata沒有文件系統的復雜性1MB以內對象的每次讀寫只執行1次硬盤IO對不同大小的文件自動優化IO性能無中心管理DataMetadataDataMetadataDataMetadata平面命名空間FullFile/Object>1MBObjectsSegmented

into1MBChunksUserMetadata(<64MB)Key-valueorbinaryTag=Beach;ThumbnailsReplication/ProtectionPolicyAsync,Sync,ObjectAssureCodingSecuritySignature64bitChecksumObjectID(OID):ACuoBKmWW3Uw1W2TmVYthAZone2Zone1WOS?

|讀寫數據流應用/Web服務器(1)一個文件被上傳到應用服務器或者web服務器(2)應用程序調用WOS客戶端保存(PUT)一個新對象D.應用程序返回文件給用戶(3)WOS客戶端在節點中保存該對象；后續的對象在云中被自動負載均衡。LAN/WAN內容數據庫(5)WOS客戶端返回唯一的標識符OID；應用程序保存該OID而不是傳統的文件路徑，然后應用程序在內容數據庫中注冊該OID。B.應用程序調用WOS客戶端讀取(GET)該對象；OID被傳遞給WOS客戶端.A.某用戶需要讀取一個文件C.WOS客戶端自動判斷哪個節點擁有被請求的對象，從延遲最低的數據源讀取該對象，并迅速將該文件返回給應用程序(4)系統根據WOS的策略復制數據。本例中，該文件被復制到Zone2。OID=5718a36143521602OID=5718a36143521602WOS?用于數據源&數據加速（CDN）ApplicationServer內容源WOSCacheServer內容源內容源ApplicationServerWOSCacheServerEdgeCacheWOSCacheServer內容上傳內容上傳AutomaticPolicy-based

SynchronizationApplicationServerEdgeCache城市1城市2城市3內容上傳中心管理WOS?用于數據采集與圖像處理Store&AnalyzeStore&processmonthsofdatainthefieldIn-CountryLocalIn-CountryanalysisIn-Countryprotection1In-CountryRemoteReplicatetoremoteIn-countrycontainerCollaboratebetweensites1境內采集分析Highperformanceaccessforanalysison-siteTotallyhands-off&selfhealingPetabytescapacity,smallfootprintBetterthanRAIDdurability&availabilityAnalyze,Search&ManageStoreanddeeparchiveexabytesofdatainasingleyear3長期高速歸檔AutomaticallyjoinstoragepoolMassiveScalabilityLowTCOHighreliability,durability,&availabilityAutomaticmanagement,migration&upgrades2TransportTransfercontainersfromthefield現有應用WOS?用于非結構化數據管理平臺分布式存儲、集中管理、就近訪問、水平擴展、確保數據安全精簡架構，去掉多余組件，減少了故障點，精準管理完全橫向擴展話單查詢、醫療云…新增應用RESTHarddisk：每次購買時最優RAID/LUNFilesystemVolumeManager專屬索引專屬索引DataMetadataDataMetadataDataMetadata…平面命名空間網關WOS?用于提供類似Dropbox的云存儲服務某公立大學有40,000名學生要提供經認可的“類似Dropbox”的解決方案要求一個合法的內部解決方案，發現其他競爭解決方案對自己不利文件共享服務提供商，搭售了他們的數據中心和人員DDN的安全WOS?云文件共享解決了上述問題向學生和教職員提供安全的文件存儲和共享學生畢業后，除一個永久的電子郵件帳號外，還包括該服務LoadBalancerReplicated,GlobalNamespaceScale-OutObjectStorageCloudGatewaysProvisioning&BillingMulti-tenantAccessviaS3&RESTWOSStorageSmartDevicesBrowserAccessAPIAccess基于策略的自動數據復制Zone2Zone3Zone1中心管理WOS?用于私有云(協同)WOS?技術細節WOS?Core

|主要技術指標市場上最高的存儲密度每機柜1.98PB、660個磁頭、220億個對象最高的擴展能力單一命名空間，每集群2560億個對象小規模起步,輕松擴展到30PB以上;按需在線擴展，集群性能線性提升性能200MB-500MB/node低延遲，1MB以內對象的每次讀寫只執行1次硬盤I/O用于保存任意比例的大小從512字節到5TB的文件，且存儲效率高達99%WOS60004U,60-driveWOSNode(SAS/SATA)1.98PB/11UnitsperRack典型拓撲圖(物理連接)Loadbalance注:非DDN產品IP網絡注:非DDN產品WOS6000云網關(提供各種協議支持）身份管理平臺注:非DDN產品WOSCloudClusterInterconnectService當前版本可水平擴展到256個節點……WOS?

|快速部署十分鐘或者更短時間內將WOS節點、接入網絡給WOS節點分配IP地址，并制定集群名字(“AcmeWOS1”)進入WOS管理界面。WOS節點出現在“PendingNodes”清單中。拖放該節點到所需的Zone如果需要，指定復制策略SanFranciscoNewYorkLondonTokyo拖放新節點到任何需要擴展的Zone恭喜！WOS集群增加了180TB！WOS?

|易于管理數十PB的部署管理只需要1名全職工程師

單一、全局的命名空間，易于配置和擴展自動、透明、策略驅動的數據復制零干預——通過（按規劃）故障點平滑降級數據保護

|ObjectAssure?技術工作特性ObjectAssure(OA)支持WOS-Lib和RESTAPIOA在WOS的單一節點內運行在WOS的保存策略中，指定“單一副本”時，OA功能開啟

在WOS集群中，OA和多副本復制保存方法可以混合使用以每個WOS節點為基礎，OA偵測多磁盤并發錯誤，并能糾正2個不同磁盤的并發錯誤ObjectAssure流程在PUT操作其間,OA將對象切片保存到8個磁盤上，并生成2份校驗數據(8+2)如果驅動器發生故障或對象已損壞,WOS使用校驗數據重建被損壞的數據（自愈合）。注意故障磁盤上的數據將散布到節點內的多塊磁盤上。WOSOA根據需要在讀(GETs)操作期間快速糾正數據5678P1P21234X1ClientApp``WOS-Lib“PUT”SelfHealing“GET”數據保護

|ObjectAssure的技術優勢傳統RAID重建容量損失——備盤容量被擱置重建時間長-必須重建整個驅動器，即使發生故障的驅動器上只有少部分數據數據丟失風險高——如果備用驅動器不可用就不能重建增加支持成本——在備件數量少時，需要立即請求維修降低寫性能——RAID降低磁盤寫性能，尤其是小文件…x……x…x…x立即請求維修傳統RAID存儲整個驅動器被重建xxxReplicatedorObjectAssureFS+RAID6WOSWOS在各個驅動器之間重新平衡數據負載充分利用所有驅動器–任何驅動器上的任何可用容量都是備用池的一部分恢復時間縮短50％-只實際數據被復制更快的恢復數倍地提升了整體性能，并降低了數據丟失的風險驅動器故障僅使總容量損失故障驅動器自身的容量在定期維護時，通過更換故障驅動器恢復總容量即時資源調配可用容量:116TB可用容量:118TB可用容量:120TB為恢復容量，可選的計劃內維修請求恢復RAID備盤1數據保護

|同步PUT操作同步PUTw/ReplicationWOSLib選擇“最短路徑”節點

Zone“SanFran”中的節點保存對象到磁盤，并按照策略復制該對象到NewYork和LondonSanFran節點收到來自NewYork和Londonzones的應答SanFran節點返回OID給應用程序ZoneSanFranWOSNodes…WOSNodes…ZoneNewYork01..0501..05ClientAppWOS-LibWOSClusterGroupMapWOSNodes…ZoneLondon01..05234AAAClientApp11數據保護|異步PUT操作PUT帶異步復制WOSLib選擇“最短路徑”節點Zone“SanFran”的節點保存對象的2份副本到不同的驅動器(節點)SanFran節點返回OID給應用程序然后集群(盡快)將對象復制到NewYork&London收到來自NewYork&London的應答，在SanFran的額外副本被立即刪除ZoneSanFranWOSNodes…WOSNodes…ZoneNewYork01..0501..05WOS-LibWOSClusterGroupMapWOSNodes…ZoneLondon01..0543AAAA240ms80ms10msLatencyMap在WOS的管理界面中可以查看數據復制的狀態高達4路復制1ZoneSanFranWOSNodes…2WOS?|GET

操作(WOS-Lib)Get操作——常規WOS-Lib選擇具有最小延遲路徑的副本，并發送GET請求Zone“SanFran”中的節點返回對象A給應用程序WOSNodes…ZoneNewYork01..0501..05WOSNodes…ZoneLondon01..05AAAGet操作——修復受損數據WOS-Lib選擇具有最小延遲路徑的副本，并發送GET請求Zone“SanFran”節點檢測到對象損壞WOS-Lib找到下一個最近的副本并讀取、返回給客戶端應用程序在后臺,