PAGE26融通基金存儲升級及雙活數據中心項目測試方案深圳市桑威科技有限公司2016年5月文檔信息項目名稱：融通基金VPLEXMetro項目測試報告文檔版本號：文檔作者：彭世華生成日期：2016年5月文檔審核者：審核日期：文檔維護記錄版本號維護日期作者/維護人描述2016年5月12日彭世華創建初稿目 錄TOC\o"1-4"\u1. 環境配置 52. 測試目的 53. VPLEX測試環境的建立 5. SANSwitch物理連線 5. SANSwitch配置 5. 存儲系統配置 54. 測試場景 65. 測試結論 76. 測試步驟及結果 8. 測試1:VPLEX控制器高可用測試 8. 測試2：VPLEX后端鏈路高可用測試 9. 測試3：雙活鏡像測試 9. 測試4：VPLEXMetro級聯鏈路高可用測試_1 10. 測試5：雙活仲裁測試_1 10. 測試6：雙活仲裁測試_2 11. 測試7：雙活仲裁測試_3 11. 測試8：雙活仲裁測試_4 12. 測試9：雙活仲裁測試_5 12. 測試10：雙活仲裁測試_6 13. 測試11：雙活仲裁測試_7 137. 場景測試及結果 14. 測試場景1：超算VNX5800故障 14. 測試場景2：漢唐VNX5500故障 14. 測試場景3：所有存儲同時故障 15. 測試場景4：Witness發生故障 15. 測試場景5：vplex_1、vplex_2同時故障 15. 測試場景6：vplex_1、vplex_2同時故障，后端存儲也同時故障 16. 測試場景7：Witness與vplex_1IP通信中斷，其他正常 16. 測試場景8：Witness與vplex_2IP通信中斷，其他正常 17. 測試場景9：Witness與vplex_1、vplex2IP通信中斷，其他正常 17. 測試場景10：vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常 18. 測試場景11：4臺FC交換機之間的裸光纖全部故障，其他正常 18. 測試場景12：超算FC交換機故障 19. 測試場景13：漢唐FC交換機故障 19. 測試場景14：所有交換機同時故障 20. 測試場景15：vplex_1與vnx5800光纖鏈路故障，其它正常 20. 測試場景16：vplex_2與vnx5500光纖鏈路故障，其它正常 21. 測試場景17：裸光纖全故障，外網LUN在超算起來，內網LUN從漢唐起來 218. 審計意見 229. 討論反饋后備注 22

環境配置硬件：設備數量微碼/版本備注VPLEXVS22SP2每個機房配置雙引擎建議安裝版本SP2SANSwitchsEMCDS6510B\5100B4用于連接EMCVPLEX和后端存儲現有5100微碼需要升級VNX5800\54002我們使用全新的VNX5800和5400測試2測試主機（待定）軟件：項目版本備注虛化化Esxi物理機OL多路徑軟件Esxi自帶、Powerpath測試目的測試不同場景下，測試主機對EMC虛擬化存儲的訪問狀況，從而測試EMCVPLEXmetro的高可用性。VPLEX測試環境的建立SANSwitch物理連線完成測試主機到SANSwitch，SANSwitch到測試存儲系統之間的光纖連接。SANSwitch配置完成測試主機與測試存儲系統之間的ZONE配置。存儲系統配置VPLEX將已封裝的LUN分配給ESX主機及物理機測試場景vplex_1、Witness、vnx5800在超算機房，vplex_2、vnx5500在漢唐機房。測試內容說明預期測試1VPLEX單個director故障將一臺VPLEX的一個director的光纖線全部斷開，觀察測試主機的IO路徑和IO訪問狀況虛擬機不受影響，主機的IO讀寫能持續進行測試2VPLEX后端鏈路高可用測試VPLEX的后端鏈路部分中斷虛擬機不受影響，主機的IO讀寫能持續進行測試3雙活鏡像測試后端存儲VNX5800發生突然停機虛擬機不受影響，主機的IO讀寫能持續進行測試4VPLEXMetro級聯鏈路（裸纖）高可用測試_1VPLEXWAN-com級聯鏈路有一條故障虛擬機不受影響，主機可以持續讀寫數據。測試5雙活仲裁測試1VPLEXWAN-com級聯鏈路全部故障（Witness正常工作）虛擬機不受影響，主機可以持續讀寫數據。測試6雙活仲裁測試2關閉VPLEX_2，觀察測試主機的IO路徑和IO訪問狀況（Witness正常工作）虛擬機不受影響，主機可以持續讀寫數據。測試7雙活仲裁測試3關閉VPLEX_1，觀察測試主機的IO路徑和IO訪問狀況（Witness正常工作）虛擬機不受影響，主機可以持續讀寫數據。測試8雙活仲裁測試4關閉Witness，觀察測試主機的IO路徑和IO訪問狀況虛擬機不受影響，主機可以持續讀寫數據。測試9雙活仲裁測試5同時關閉VPLEX_2和Witness虛擬機不能運行，主機IO掛起，需要在VPLEX_1上手動恢復IO訪問測試10雙活仲裁測試6同時關閉VPLEX_1和Witness虛擬機不能運行，主機IO掛起，需要在VPLEX_2上手動恢復IO訪問測試11雙活仲裁測試7Witness和所有WAN-com（裸纖）全部同時故障虛擬機不能運行，主機IO掛起，VPLEX_1和VPLEX_2都掛起，需手動選擇恢復測試12超算VNX5800故障超算VNX5800故障測試13漢唐VNX5500故障漢唐VNX5800故障測試14所有存儲同時故障超算VNX5800與漢唐VNX5500同時故障測試15Witness發生故障Witness發生故障，其它正常測試16vplex_1、vplex_2同時故障vplex_1、vplex_2同時故障，后端存儲存活測試17vplex_1、vplex_2同時故障，后端存儲也同時故障vplex_1、vplex_2同時故障，后端存儲也同時故障測試18Witness與vplex_1IP通信中斷，其他正常Witness與vplex_1IP通信中斷，其他正常測試19Witness與vplex_2IP通信中斷，其他正常Witness與vplex_2IP通信中斷，其他正常測試20Witness與vplex_1、vplex2IP通信中斷，其他正常Witness與vplex_1、vplex2IP通信中斷，其他正常測試21vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常測試224臺FC交換機之間的裸光纖全部故障，其他正常4臺FC交換機之間的裸光纖全部故障，其他正常測試23超算FC交換機故障超算FC交換機故障全部故障測試24漢唐FC交換機故障漢唐FC交換機故障全部故障測試25所有交換機同時故障所有交換機同時故障測試26vplex_1與vnx5800光纖鏈路故障，其它正常vplex_1與vnx5800光纖鏈路故障，其它正常測試27vplex_2與vnx5500光纖鏈路故障，其它正常vplex_2與vnx5500光纖鏈路故障，其它正常測試28裸光纖全故障，外網LUN在超算起來，內網LUN從漢唐起來裸光纖全故障，外網LUN在超算起來，內網LUN從漢唐起來測試28測試29測試30測試31

測試結論測試內容測試結論測試1VPLEX控制器高可用測試測試2VPLEX后端鏈路高可用測試測試3雙活鏡像測試測試4VPLEXMetro級聯鏈路高可用測試_1測試5雙活仲裁測試1測試6雙活仲裁測試2測試7雙活仲裁測試3測試8雙活仲裁測試4測試9雙活仲裁測試5測試10雙活仲裁測試6測試11雙活仲裁測試7測試步驟及結果測試1:VPLEX控制器高可用測試故障模擬：其中一臺VPLEX上的一個director（控制器）突然發生故障測試方法：直接rebootdirector或者disable該director在SAN交換機的端口模擬該director故障此處采用disable端口初始相關參數：VPLEX:auto-resume-at-loser=trueCG：detach-rule=winnercluster-1after5s步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；斷開VPLEX_1的directorA的所有光纖線登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。故障恢復：director重啟或者enable交換機中主機與該director的zone模擬該director故障恢復預期結果：主機的IO路徑中斷一半，主機可以繼續訪問VPLEX_1測試1記錄：測試1結論：測試2：VPLEX后端鏈路高可用測試故障模擬：VPLEX與后端存儲直接的鏈路出現不穩定或故障測試方法：在交換機上disableVPLEX的后端端口（兩邊非同時）預期結果：主機可以繼續訪問VPLEX，被拔掉的一邊后端存儲顯示失效。測試記錄：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；登錄SAN交換機找到一臺VPLEX的后端端口portdisable這些后端端口登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試2結果：測試2結論：測試3：雙活鏡像測試故障模擬：VPLEX的后端VNX5800存儲突然down機，模擬后端存儲完全故障測試方法：把VNX5800的前端口在交換機上disable步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；在交換機上將VNX5800存儲的端口全部關閉。登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。預期結果：主機正常訪問VPLEX，主機端不受任何影響，虛擬機狀態正常，虛擬化平臺正常，磁盤掃描沒有變化，主機到VPLEX路徑全部都在結束時間：測試3結果：測試3結論：測試4：VPLEXMetro級聯鏈路高可用測試_1故障模擬：VPLEXMetro兩個site的WAN-com(裸纖)級聯鏈路出現不穩定開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；斷開VPLEX_1的的一個WAN-COM口的光纖線（或disable一條裸纖在交換機上的所有端口）登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試4結果：測試4結論：測試5：雙活仲裁測試_1故障模擬：VPLEXMetro兩個site的WAN-com級聯鏈路全部中斷開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；斷開VPLEX_1的的兩個WAN-COM口的光纖線登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試5結果：測試5結論：測試6：雙活仲裁測試_2故障模擬：當Witness工作正常時，模擬一個VPLEX群集故障開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；斷開VPLEX_2的的所有接口登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試6結果：測試6結論：測試7：雙活仲裁測試_3故障模擬：當Witness工作正常時，模擬另外一個VPLEX群集（VPLEX_1）故障開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；斷開VPLEX_1的的所有接口登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試7結果：測試7結論：測試8：雙活仲裁測試_4故障模擬：當Witness故障時，確認VPLEX群集是否工作正常開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；關閉Witness登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試8結果：測試8結論：測試9：雙活仲裁測試_5故障模擬：一個VPLEX群集（VPLEX_2）和Witness同時故障開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；同時關閉VPLEX_2所有端口和Witness登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試9結果：測試9結論：測試10：雙活仲裁測試_6故障模擬：另外一個VPLEX群集（VPLEX_1）和Witness同時故障開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；同時關閉VPLEX_1所有端口和Witness登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試10結果：測試10結論：測試11：雙活仲裁測試_7故障模擬：所有WAN-com（裸纖）和Witness同時故障開始時間：步驟：當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；同時關閉所有裸纖在光纖交換機上的所有端口和Witness登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試11結果：測試11結論：場景測試及結果測試場景1：超算VNX5800故障場景模擬：超算VNX5800故障測試方法：在交換機上disableVNX5800前端口預期結果：主機可以繼續訪問VPLEX，超算VPLEX顯示后端存儲故障，所有超算端Volume出錯。測試記錄：測試場景1結果：測試場景1結論：測試場景2：漢唐VNX5500故障場景模擬：漢唐VNX5800故障測試方法：在交換機上disable漢唐VNX5500前端口預期結果：主機可以繼續訪問VPLEX，漢唐VPLEX顯示后端存儲故障，所有漢唐端Volume出錯。測試記錄：測試場景2結果：測試場景2結論：測試場景3：所有存儲同時故障場景模擬：所有存儲同時故障測試方法：在交換機上disableVNX5800及VNX5500前端口預期結果：VPLEX系統顯示后端存儲故障，主機雖然連接VPLEX，但無法讀寫數據測試記錄：測試場景3結果：測試場景3結論：測試場景4：Witness發生故障場景模擬：僅Witness發生故障測試方法：關閉Witness虛擬機預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Witness連接中斷。測試記錄：測試場景4結果：測試場景4結論：測試場景5：vplex_1、vplex_2同時故障場景模擬：vplex_1、vplex_2同時故障測試方法：在交換機上Disablevplex_1、vplex_2的所有前端及后端預期結果：VPLEX系統顯示所有Cluster故障，主機訪問中斷。測試記錄：測試場景5結果：測試場景5結論：測試場景6：vplex_1、vplex_2同時故障，后端存儲也同時故障場景模擬：vplex_1、vplex_2同時故障，后端存儲也同時故障測試方法：在交換機上Disablevplex_1、vplex_2的所有前端及后端，Disable所有存儲前端預期結果：VPLEX系統顯示所有Cluster故障，主機訪問中斷。測試記錄：測試場景6結果：測試場景6結論：測試場景7：Witness與vplex_1IP通信中斷，其他正常場景模擬：Witness與vplex_1IP通信中斷，其他正常測試方法：撥出超算vplex_1的管理網線預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Cluster1的Witness連接中斷。測試記錄：測試場景7結果：測試場景7結論：測試場景8：Witness與vplex_2IP通信中斷，其他正常場景模擬：Witness與vplex_2IP通信中斷，其他正常測試方法：撥出漢唐vplex_2的管理網線預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Cluster2的Witness連接中斷。測試記錄：測試場景8結果：測試場景8結論：測試場景9：Witness與vplex_1、vplex2IP通信中斷，其他正常場景模擬：Witness與vplex_1、vplex2IP通信中斷，其他正常測試方法：在虛擬機上斷開Witness的網卡連接預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Witness連接中斷。。測試記錄：測試場景9結果：測試場景9結論：測試場景10：vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常場景模擬：vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常測試方法：斷開vplex_1、vplex2之間的網絡路由預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示WitnessVPN連接異常。。測試記錄：測試場景10結果：測試場景10結論：測試場景11：4臺FC交換機之間的裸光纖全部故障，其他正常場景模擬：4臺FC交換機之間的裸光纖全部故障，其他正常測試方法：Disable所有DS6510與DS5100之間的所有級聯端口預期結果：超算主機訪問VPLEX正常，漢唐主機訪問VPLEX故障，VPLEX系統顯示ClusterPartition。測試記錄：測試場景11結果：測試場景11結論：測試場景12：超算FC交換機故障場景模擬：超算2臺DS6510交換機故障測試方法：關閉超算2臺DS6510交換機所有電源預期結果：漢唐主機訪問VPLEX正常，超算主機訪問VPLEX故障，VPLEX系統顯示ClusterPartition。測試記錄：測試場景12結果：測試場景12結論：測試場景13：漢唐FC交換機故障場景模擬：漢唐2臺DS5100交換機故障測試方法：關閉漢唐2臺DS5100交換機所有電源預期結果：超算主機訪問VPLEX正常，漢唐主機訪問VPLEX故障，VPLEX系統顯示ClusterPartition。測試記錄：測試場景13結果：測試場景13結論：測試場景14：所有交換機同時故障場景模擬：4臺SAN交換機故障測試方法：關閉超算及漢唐4臺SAN交換機所有電源預期結果：VPLEX系統顯示所有Cluster故障，主機訪問中斷。測試記錄：測試場景14結果：測試場景14結論：測試場景15：vplex_1與vnx5800光纖鏈路故障，其它正