1、醫院雙活數據中心建設目錄醫院簡介建設背景一期、二期、三期方案設計 實施方案系統測試醫院歷史3 始建于1951年，由留德兒科博士劉一麟創建， 至今已有64年歷史 醫院概況4輻射人口800多萬業務收入12億元年出院人數7萬人次設備總值4億多元編制床位1810張年診療總量130萬人次建筑面積 44.5萬平米(含在建院區30萬)信息化歷程目前各類系統（模塊）近100個， 內外網物理隔離，計算機 2000多臺。51987年購置第一臺計算機1993年建成第一個部門級局域網（門診收費）1998年建設全院HIS系統2002年醫生工作站全面投入使用2014年建成雙活數據中心6生產機房災備機房機房全景圖目錄醫院簡

2、介建設背景一期、二期、三期方案設計 實施方案系統測試背景1個機房背景HIS系統數據庫運行在兩臺IBM P550小型機上（后租用一臺IBM P570小型機，P570和其中一臺P550組成一套HA系統），數據存儲在IBM DS4300存儲上；HA系統只能實現故障轉移，無法實現負載均衡，無法充分利用硬件設備資源；設備購買年限較長，從電子設備的穩定周期來看，設備已進入故障高發期；業務逐年增長，高峰時對系統的壓力越來越大；出現過業務高峰時，系統負載過高，整個系統的響應變慢的狀況；系統存在單點故障，安全性堪憂，系統更新勢在必行；所有的應用系統采用傳統模式部署業務系統直接運行在物理服務器上。HA系統（200

3、6-2012）系統需求快！隨著患者對醫院服務要求的增高，要求系統的響應速度越來越快；業務系統越來越多，要求系統的處理能力越來越快；安全！隨著醫院業務的發展，要求系統的穩定性越來越高；由于醫院行業的特殊性，對系統的停機要求很高，最好做到維護系統時，服務不中斷；排除系統的單點故障，保證系統的穩定性；保證系統的先進性，要求采用主流技術架構建設系統；業務數據已成為醫院的重要資源，要求做好業務數據的實時保護，同時要求業務數據擁有備份；目錄醫院簡介建設背景一期、二期、三期方案設計 實施方案系統測試一期系統架構LAN生產機房災備機房裸光纖存儲虛擬化EMC Vplex光纖數據流圖例IBM DS4300EMC

4、VNX5300Oracle DGIBM P570數據同步EMC VNX5500IBM P740IBM P740OracleRAC存儲池VMware2013年 2個機房一期實施內容2臺IBM P740小型機1臺EMC VNX5500存儲1臺EMC VPLEX Local節點2臺EMC DS300B SAN交換機1套Oracle RAC安裝部署及數據遷移1套Oracle DataGuard數據容災軟件實施1套VMware服務器虛擬化（測試運行階段）一期建設成果P740小型機提升系統的整體處理能力；Oracle RAC 提升數據庫的處理能力及系統的安全性，實現了故障轉移和負載均衡；通過存儲虛擬化解決

5、存儲的單點故障，同時保證系統的重要數據在系統中有著實時的兩份同樣的COPY；存儲虛擬化平臺的建立，使核心數據存儲系統的不停機維護成為可能；Oracle DG可以保證生產系統的快速切換，保證在出現故障時，業務可以快速上線；VMware服務器虛擬化環境，保證在物理服務器出現故障時，應用系統不中斷（虛擬機自動遷移至健康服務器）。為什么有二期？一期EMC Vplex存在單點故障，如果EMC Vplex出現故障，系統將出現宕機，前端應用將停止服務；主要設備都在新機房，在極端狀況下，如果新機房出現電源故障，系統將被迫切換，系統將會短時間停機；IBM P570主機設備老化，作為備機在應對大規模業務流量時不穩

6、定，會出現宕機狀況；系統保護多為在線冗余保護，離線數據保護系統很薄弱，系統抵抗邏輯風險的能力低。VMware服務器虛擬化沒有實現跨站點容災保護，一旦生產機房出現電源故障，所有虛擬化環境都會出現業務中斷一期系統需加強的要點二期需要做的事增添一臺小型機IBM P740（8核心CPU，32GB內存，8Gb HBA卡，萬兆網卡），用來替換P570小型機作為OracleDg及DSG的容災服務器；將現有EMC Vplex Local升級成Metro型號，再配置一臺EMC Vplex Metro，形成EMC Vplex 群集配置，預防Vplex單點故障；將由原的RAC系統分別部署在兩個機房，形成同園區的雙活

7、數據中心，防止機房出現電源或網絡方面的極端故障；由于新機房建設標準高，機房環境好，將Oracle DG和DSG的小型機部署在新機房，當系統切換時，保證系統的穩定性（電源、網絡、制冷等）；原有的IBM DS4300性能無法滿足生產系統需求，利用原有的IBM P550小型機組建測試庫系統，供容災測試使用；目前數據全部采用在線保護系統，可以保證數據在出現問題時可以快速的恢復，保證系統的連續性。但是系統屏蔽邏輯錯誤的能力很低，為了保證系統抵抗邏輯錯誤的風險，部署DSG及Networker數據備份系統，實現系統數據的離線備份，可以將系統數據恢復到過去某一個時間點，保證數據的安全。在災備機房部署VMwar

8、e服務器虛擬化的容災保護平臺。二期系統改進計劃二期實施內容1臺IBM P740小型機1臺EMC VNX5400存儲2臺EMC DS6510B SAN交換機1臺EMC VPLEX Metro節點EMC VPLEX Local升級MetroDSG容災軟件實施EMC Networker備份軟件VMware服務器虛擬化容災保護系統（VMware SRM）二期系統架構生產機房災備機房裸光纖存儲虛擬化EMC Vplex光纖數據流圖例EMC VNX5500EMC VNX5300Oracle RAC數據同步EMC VNX5400IBM P740IBM P740Oracle DG存儲池存儲虛擬化EMC Vple

9、xIBM P740虛擬機災備端IBM_P550 DSGLAN虛擬機VMware SRM2014年EMC VplexMetro雙活數據中心架構，保證2個機房中任何一個的存儲和主機出現故障，系統仍然能提供服務；新增EMC VNX5400存儲，增加Vplex存儲池的容量及性能，滿足業務發展的需要；在極端狀況下，如果生產中心機房出現電源故障，系統可繼續有災備中心機房設備提供業務服務；當前業務災備系統有兩套（OracleDG，DSG），分別在兩個中心機房有容災庫，出現生產環境崩潰的情況下可較短時間將備用庫拉起提供服務，同時保證數據不丟失；當前生產環境還有獨立的一套EMC networker備份系統，每天

10、對生產環境數據庫進行備份，最大限度保證數據安全性，同時提供屏蔽數據邏輯故障的能力。在極端情況下，如果生產中心機房出現電源故障，接受Vmware SRM保護的虛擬機會在容災機房自動重新啟動提供服務。二期建設成果雙活數據中心建設的優點穩定性性能均采用業界領先的解決方案及產品（IBM、Oracle、EMC、VMware），大大的提高醫院的系統處理能力，保證業務流暢運行。系統均采用冗余架構設計（主機、存儲、網絡），結合服務器虛擬化、存儲虛擬化、數據備份、數據庫在線備份等一系列技術手段，保證醫院系統的連續不中斷。三期規劃2016年底新院區建成后（2地3中心）生產機房-通灌院區生產機房-新海院區（1#機房

11、）裸光纖存儲虛擬化EMC Vplex光纖數據流圖例EMC VNX5500EMC VNX5300OracleRAC數據同步EMC VNX5400IBM P740IBM P740Oracle DG存儲池存儲虛擬化EMC VplexIBM P740虛擬機虛擬機虛擬機災備端EMC VNX5400（新購）IBM_P740（新購） DSG災備機房-新海院區（2#機房）CDP設備連續數據保護LANDSG數據同步VMware SRM目錄醫院簡介系統簡介一期、二期、三期方案設計 實施方案系統測試一期設備清單設備名稱設備型號品牌型號1小型機IBMP7402小型機IBMP7403磁盤存儲EMCVNX55004SAN

12、交換機EMCDS300B5SAN交換機EMCDS300B6存儲虛擬化產品EMCVPLEX7數據庫雙機軟件oracleOracle RAC8數據庫容災軟件DGDataGuard9服務器虛擬化VMwareVMware vSphere 5.1（測試環境）二期設備清單設備名稱設備型號品牌型號1小型機IBMP7402磁盤存儲EMCVNX54003磁盤存儲EMCVNX55004SAN交換機EMCDS6510B5SAN交換機EMCDS6510B6存儲虛擬化產品EMCVPLEX-Metro7存儲虛擬化產品升級EMCVplex local升級Metro8數據庫容災軟件DSGDSG RealSync9數據備份軟件

13、EMC EMC Networker7.610服務器虛擬化VMwareVMware vSphere 5.511服務器虛擬化容災VMwareVMware SRM 5.0一期網絡管理IP地址設備172.32.255.1VNX5300_SPA172.32.255.2VNX5300_SPB172.32.255.3VNX5500_SPA172.32.255.4VNX5500_SPB172.32.255.5VPLEX172.32.255.6EMC_DS300B_1172.32.255.7EMC_DS300B_2物理設備IP管理主機IP用途p740a192.168.0.65p740a_pubic10.10.1

14、0.1p740a_private192.168.0.67p740a_vipp740b192.168.0.66p740b_pubic10.10.10.2p740b_private192.168.0.68p740b_vipOracle RAC IP地址一期存儲管理Raid GroupRaid TypeRaid Size0r5600GB1r101.5TB2r51.2TB3r52.4TBNameLUN NumberLUN SizeDefault SPRaid GroupRaid TypeDisk TypeP74001.0 GBA3r5FC11.0 GBB3r5FC2300.0 GBA1r10FC330

15、0.0 GBB1r10FC二期網絡管理 設備IP生產機房Vplex-cluster1172.32.255.5VNX5400 SPA172.32.255.24VNX5400 SPB172.32.255.25DS6510B_UP172.32.255.21DS6510B_DOWN172.32.255.20P740a192.168.0.65P740a-vip192.168.0.67P740dg192.168.0.208容災機房Vplex-cluster1172.32.255.23VNX5500 SPA172.32.255.3VNX5500 SPB172.32.255.4DS300B_UP172.32.

16、255.6DS300B_DOWN172.32.255.7P740b192.168.0.66P740b-vip192.168.0.68NetworkerBackupServer192.168.0.108P550(4C,16GB)192.168.0.8Oracle實例用戶名密碼-IBM_2005_B16光纖交換機_UP172.32.255.26IBM_2005_B16光纖交換機_DOWN172.32.255.27二期存儲管理Raid GroupRaid TypeRaid Size0R102.1TBSAS_POOLR515TBNL_SAS_POOLR521TBNameLUN NumberLUN Si

17、zeDefault SPRaid GroupRaid TypeDisk TypeP740111.0 GBA0r10SAS121.0 GBB0r10SAS131.0 GBA0r10SAS141.0 GBB0r10SAS151.0 GBA0r10SAS16300.0 GBB0r10SAS17300.0 GBA0r10SAS18300.0 GBB0r10SAS20750.0GBB0r10SASP740DG0300.0 GBA0r10SAS1300.0 GBB0r10SAS19100.0GBASAS_POOLR5SASVmware_esx03-062 2TBASAS_POOLR5SAS32TBBSAS

18、_POOLR5SAS415TBANl_SAS_POOLR5SAS目錄醫院簡介系統簡介一期、二期、三期方案設計 實施方案系統測試測試場景一：RAC節點服務器出現故障故障發生直接斷開RAC群集中第一個節點服務器的電源故障監控查看Oracle RAC節點實例狀態故障解決恢復RAC群集中第一個節點服務器的電源，并開啟服務器預期結果節點服務器宕機期間，Oracle客戶端不受影響，可以持續訪問Oracle數據庫服務器。結論Oracle數據庫RAC群集不受其中一個服務器節點故障的影響，可以持續向客戶端提供服務。Oracle客戶端連接自動Failover到第2個節點服務器上測試場景二：同一Fabric的2臺SAN Switch線路故障故障發生斷開同一Fabric的2臺SAN Switch的級聯線故障監控VPLEX-Metro層面的監控故障解決恢復同一Fabric的2臺SAN Switch的級聯線預期結果主機應用不受影響結論主機應用不受同一Fabric的2臺SAN Switch級聯線斷開的影響登錄完成后可以看到VPLEX的狀態。點擊View Status Deta