構建極速穩定多元異構數據庫云化底座演講人：胡自貴@云和恩墨l趨勢挑戰：行業變化、客戶轉型、產業升級帶來的新挑戰客戶轉型：集中化、云化產業升級：新硬件潛力有待挖掘客戶轉型：集中化、云化產業升級：新硬件潛力有待挖掘行業變化：多元、國產、上核心系統A系統B系統C系統A系統B系統C統一資源池?應對外部爆炸式的業務并發和數據增長銀行業務辦理銀行業務辦理云資源池1、使用某大廠分布式數據庫集中式部署版本。2、當前業務分了4套數據庫（按地市進行區分每套數據庫一主兩備，一共12臺主機；數據庫存儲在服務器本地盤，當前數據量較小，僅1-200G。【數據量很少，國產庫為什么都建議用本地盤？】3、服務器配置：全閃SSD，10T左右空間；CPU為鯤鵬920，64核；768G內存【存儲資源浪費嚴重，磁盤故障率高】4、2023年12月底開始上線，購買了2個月原廠服務，經過幾個月磨合，目前系統運行正常，CPU使用率一般處于20-30%之間，偶爾40%。【為什么會出現數據量很小，但是CPU占用還不低？】1、存算分離是架構設計的基本原則，也是解放單機架構下CPU能力的關鍵一環。2、本地盤性能好，但資源浪費，冗余性差，資源浪費？要實現既安全可靠又高性能，同時能實現存儲資源的共享？資源共享，降本增效？3、國產數據庫引擎相對Oracle還有一定差距，如何彌補？同樣的車，高速VS國道？1km、100km性能指標概念性能考察方法（見右圖） 性能關鍵指標這兩個時延是考察存儲時延的通用指標。相當于中位數99%位數）。協議層★塊存儲硬盤讀/寫文件存儲對象存儲存儲層對比特點：二進制方式直接訪l刨根問底1：傳統部署范式難以應對企業發展新挑戰傳統運行環境單機服務器FC交換機FC單機服務器FC交換機FC交換機磁盤陣列小型機本地盤小型機本地盤小型機本地盤不夠快不夠快不夠穩不夠穩不好用不好用?0.5+0.5<1：國產數據?本地盤、集中式存儲擴展性弱（盤故障本地?多元數據庫，運維難（DBA對國產數據庫技能縱向增加硬盤框刨根問底2：集中式存儲vs分布式存儲（通用/縱向增加硬盤框集中式存儲集中式存儲對比分布式存儲塊/文件塊/文件RAID+BBU電池可靠性VS快卓越性能穩易開放易用開放易用穩定可靠恩墨實踐：zDataX多元數據庫一體多重可靠性保護機制，全棧國產保障數據庫運行穩定可靠靈活彈性多重可靠性保護機制，全棧國產保障數據庫運行穩定可靠靈活彈性，全棧全生命周期管理面向多元數據庫的開放易用架構全自研分布式架構滿足關鍵業務負載的業界領先性能數據庫層計算節點高速交換機數據庫層計算節點高速交換機存儲節點…計算節點計算節點計算節點計算節點…數據庫管理設備管理RoCE交換機存儲節點存儲節點存儲節點存儲節點…口RACLE硬件管理4K隨機讀寫X280萬IOPS@0.3X280萬IOPS@0.3ms關鍵挑戰一種增一種增強Raft的三副本模式一種多線程無鎖緩存方案分布式存儲種leader重均衡控制一種保證快照一致性的方法基于RDMA的PM的一致性算法充分發揮硬件潛能,保證數據一致性RoCEv2數據庫分布式存儲 EnhancedRaft(consensusalgorithm) CloneSnapshot2/3repChecksumCompress EulerOSEnlskUserSpaceDriverManager MogDBopenGaussKingbaseDMMySQL多并發下多線程無鎖內存頁管理方法DeviceManager一體機管理平臺PrometheusRDMANIChttphttpsKunpengServiceEtcd軟件瘦身?專為數據庫設計，相比傳統架構（支持多協議軟件架構更精?數據處理單元由變長改為定長，處理機制更簡單；寫IO處理流程減少1/3調度優化?專核專用，保障關鍵業務資源?無鎖化設計，核心綁定資源對象?驅動用戶態，處理流程更短?輪詢調度框架，降低切換時延高速協議?支持NVMe-oF、RDMA高速協議，充分發揮高速硬件性能挑戰：如何解決資源均衡分配的實現原理：核心綁定資源對象，避挑戰：如何解決資源均衡分配的實現原理：核心綁定資源對象，避免資源爭搶，引起性能下降分配盡量均勻CPUCPU1CPU2CPU3?資源分配不均會影響性能?CPU核心數越來越多，分配不均問題更為突顯?故障場景下，如何重新均衡成為難題?算法優化：自研調度算法，采用局部優化，多次迭代，逼近最優均衡；已申請專利《一種非對稱分布的負載均衡方法》Cache5硬盤5網絡5Cache3硬盤3網絡3Cache2Cache5硬盤5網絡5Cache3硬盤3網絡3Cache2硬盤2網絡2Cache6硬盤6網絡6Cache4硬盤4網絡4Cache1硬盤1網絡2CPU1CPU2CPU3CPU4CPU5優化后，每IO節省30-50微秒50%時延縮短使用使用sysbench進行測試，zDataX相比本地盤，低并發場景性能弱于本地盤，高并發場景優于本地盤，最高提升25%3023.5526.90426.1742015.2625.9920.918線程16線程32線程64線程128線程本地盤zDataXVSVS機柜組件數據節點?數據校驗及數據一致性巡檢?硬件冗余設計、故障切換基于ROW構建快照121233持續快照，性能平穩 故障場景臨時離線場景集中式存儲zDataX集中式存儲zDataX亞健康：組件尚未故障，但出現慢速、壽命不足等降級問題，影響業務性能，有中斷業務的風險節點亞健康網絡亞健康節點亞健康網絡亞健康硬盤亞健康IB降速亞健康處理1024節點性能、容量線性增長性能、容量線性增長3節點數據庫數據庫操作系統操作系統物理硬件物理硬件OFUSION計算存儲A網絡圍繞數據庫及基礎設施，進行全棧全生命周期管理口RACLE事前分析預防提前規避80%問題事后快速恢復快速故障分析事前分析預防提前規避80%問題事后快速恢復快速故障分析分鐘級主備切換問題發現效率提升10倍???件榮獲華為主辦“2023鯤鵬應用創新大賽”l行勝于言：助力某省衛健委構建全棧國產數據庫資源池18臺國產架構服務器+zDataX構建全棧國產數據庫資源池基衛醫療基衛綜合基衛醫療基衛綜合………………高速互聯主備容災基衛醫療基衛綜合基衛醫療基衛綜合………………高速互聯主備容災…………高速互聯“醫療信創賽道一等獎”“最佳實踐應用獎”l行勝于言：池化整合，助力某證券公司架構創新升級數據庫種類多傳統架構性能差資源利用率低zDataX構建多元數據庫資源池X86X86X86X86X86X86X86X86X86X86X86X86X86X86在整體性能上遠超X86+集中存儲架構，IOPS合計超過百萬。zDataX上線后，各項性能指標顯著提升。DBTime降低至原來的1/20，SQL語句從業務角度上來看，常用業務功能的查詢速度l行勝于言：某交通行業客戶核心數據庫自主創新改造項目緣起數據庫基礎設施數據庫基礎設施4保障業務連續性方案架構鯤鵬服務器鯤鵬服鯤鵬服務器鯤鵬服EEEEEEEE司主機房容災機房數據同步容災機房TOSTOS計算層網絡層鯤鵬服務器鯤鵬服務器