




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、MYCAT最佳實踐支持1000億大數據中國第一開源分布式數據庫中間件MYCAT的原理分表分庫Mysql2Mysql1分片原則與限制每個分片的記錄量為1000萬左右,分片數量是雙刃劍,不易過多分片字段不支持多個字段的組合原則上以最頻繁查詢的字段為分片字段,分片字段不能改變值,分片字段的選擇很大程度上影響系統性能非分片字段的查詢語句,會并發發送到每個分片上去,導致資源消耗更多非范圍分片,擴容難度大,一致性Hash也只是做出了一定的改善分片導致某些SQL語句的執行結果不符合預期,可以視為不支持分片產生了跨分片排序和分組統計等問題分片產生了表關聯問題分片產生了分布式事務問題MYCAT目前不能支持的SQ
2、LInsert into values( xxxx)Insert into b select * from aSelect * from a where partionCol like “xxxx”Select * from b where pationCol 4 and pationC between Lock table a Select * from a for update - /*!mycat: sql = update a */ 任意的分片表的Join語句Select a from A order by bselect count(*) from A group by bSelec
3、t distinct a.* from a 存儲過程中有輸出參數的,目前不支持MYCAT注解方式解決特殊分片SQL路由問題對于一個特殊的復雜SQL,Mycat的語法解析器如果解析失敗,無法通過,則可以通過注解方式“偷梁換柱”,從而基本解決這一問題Select * from a for update /*!mycat: sql = update a */ Select * from a for update 跨分片JOIN的幾種策略關聯字段采用相同的分片規則ER關系分片全局表編程方案: Catlet或自行處理任意兩個分片表JION目前業界并沒有很好的通用性解決方案,所以要盡可能避免大量在線的JO
4、IN SQL,而是采用后臺預先定期計算并存儲結果的方式Catlet是Java編寫的一段程序,類似數據庫中的存儲過程,可以實現任意復雜SQL的Join、Group、Order等功能MYCAT ER分片DN1DN2MycatCustomer1Customer100Customer1Customer100Custermer1 - Order1Cutermer100 - Order4Custermer1 - Order2Custermer100 - Order 3Order1Order2Order3Order4存在關聯關系的父子表在數據插入的過程中,子表會被Mycat路由到其相關父表記錄的節點上,從而
5、父子表的Join查詢可以下推到各個數據庫節點上完成,這是最高效的跨節點Join處理技術,也是Mycat首創MYCAT全局表ordershost1ordershost2ordershost3ordershost4insert into orders (xxx)Mycat每個節點同時并發插入和更新數據,每個節點都可以讀取數據,提升讀性能的同時解決跨 節點Join的效率全局表的建議和限制全局表記錄數在1000萬以內更新頻率低常見如用戶、商戶、商品等建議把變動頻率高的字段從全局表剝離全局表目前是采用弱XA事務,存在局部失敗的可能性MYCAT分布式事務問題XA分布式事務產生的代價較大,互聯網領域多傾向于
6、抵制MySQL 直到5.7的某個版本,才修復了一直以來的XA缺陷,即binlog不寫prepare日志,導致主從數據可能不一致Mycat目前沿用了Cobar的弱XA事務模型Mycat 2.0計劃實現標準的事務,供應用自行決定使用當一個普通事務內的SQL被路由到多個節點上去執行時,就產生了分布式事務問題弱模型update sqlDN1DN2DN3commit任意錯誤回滾標志只能ollback在Update SQL執行成功的情況下,隨后的Commit失敗的概率非常小因此此模型還是能滿足大多少應用的要求MYCAT讀寫分離和自動切換機制Mycat 支持基于MySQL主從復制狀態的高級讀寫分離控制機制,
7、比如 Slave_behind_master 100則開啟,而一旦檢測到主從同步出錯或者延時超過發展,則自動排除readHost,防止程序讀到很久的舊數據MYCAT的高可靠業務數據存儲方案MycatGalera clusterMysql Master/SlaveNoSQL多主同時寫入,高可靠性,適合系統中的關鍵表帳務表、訂單表等用戶表、字典表、常規數據日志類的數據主從故障切換,可能有數據丟失的問題存儲大量一次性非業務數據ClientOne SchemaMYCAT生產案例超過300個案例某電信領域海量交易數據實時查詢案例分析每天2億交易數據,保持最近一個月內的交易數據主要查詢條件為某天(某幾天)
8、某個交易手機號的交易記錄查詢時間要求3秒內返回結果MYCAT方案采用交易時間字段進行分片,分片規則為日期范圍分片,每小時一個分片,總共24*31=744個分片,保存了31天的記錄,744個分片均勻分布在4臺X86服務器上,月末手工清理(轉移歷史數據),手機號建立索引數據庫用InnoDBMYCAT方案系統實際的查詢響應時間平均小于1秒研究了MySQL內存表與InnoDB兩種引擎,結果表明,大多數情況下InnoDB是比較理想的選擇,內存表對內存的要求很高,而且不太合適查詢同時有大量的插入/更新操作的場景此方案具有很強的代表性,意味著當前很多SQL緩存數據庫記錄的方案都可以用MyCAT簡單可靠替換。
9、大內存調優關鍵wrapper.java.additional.3=-XX:MaxPermSize=64Mwrapper.java.additional.4=-XX:+AggressiveOptswrapper.java.additional.5=-XX:MaxDirectMemorySize=2Gwrapper.java.additional.6=-Dcom.sun.management.jmxremotewrapper.java.additional.7=-Dcom.sun.management.jmxremote.port=1984wrapper.java.additional.8=-Dc
10、om.sun.management.jmxremote.authenticate=falsewrapper.java.additional.9=-Dcom.sun.management.jmxremote.ssl=falsewrapper.java.additional.10=-Xmx4Gwrapper.java.additional.11=-Xms1G當有超過8G可用內存時候,建議大部分分配給XX:MaxDirectMemorySize,比如比如16G,而,而Xmx與與Xms則在則在4G左右左右MaxDirectMemorySize的大部分,比如的大部分,比如90%,分配給,分配給Mycat
11、的網絡堆內存,為的網絡堆內存,為system.xml中的以下兩個參數:中的以下兩個參數:processorBufferPool,單位字節,建議設置為 MaxDirectMemorySize的的90%左右,比如左右,比rocessorBufferChunk,BufferPool里單元大小,默認里單元大小,默認4096字節字節于于是總共有是總共有processorBufferPool/ processorBufferChunk 個單元格個單元格 :即:/4096= 3774873 個單元格個單元格單元單元格越多,通常性能越好,可以在管理端口格越多,通常性能越好,可以在管理端口(
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 八年級地理上冊 第四章 中國的經濟發展 第一節 交通運輸 第2課時 我國鐵路干線的分布教學設計 (新版)新人教版
- 3學會自我保護 (公開課一等獎創新教學設計)統編版道德與法治七年級下冊
- 2創新永無止境 公開課一等獎創新教學設計(表格式)-1
- UTF-8‘’Brand KPIs for ready-made-food Aunt Bessie's in the United Kingdom-外文版培訓課件(2025.2)
- 微量泵使用與護理
- 案例分析1人感染高致病性禽流感疫情52
- 收藏品質押借款合同
- 倉庫租賃買賣合同樣本
- 軟件開發合同技術創新目標
- 《探求知識的互聯互通》課件
- 危重癥患者護理
- 2025年山東省春季高考語文模擬試卷試題(含答案解析)
- 2024版《糖尿病健康宣教》課件
- DB11∕T 686-2023 透水磚路面施工與驗收規范
- 山東虛擬電廠商業模式介紹
- 醫療技術臨床應用管理培訓課件
- 敏捷開發管理咨詢合同
- 病區安全管理新護士上崗前培訓課件
- 汽車調光玻璃行業專題報告(技術路徑、市場空間、競爭格局等)-2024-08-零部件
- 老年人血脂異常管理中國專家共識(2022版)
- GB/T 44127-2024行政事業單位公物倉建設與運行指南
評論
0/150
提交評論