存儲升級及雙活數據中心項目測試方案V1.0深圳市桑威科技有限公司2016年5月文檔信息項目名稱：融通基金VPLEXMetro項目測試報告文檔版本號：1.0文檔作者：彭世華生成日期：2016年5月文檔審核者：審核日期：文檔維護記錄版本號維護日期作者/維護描述1.02016年5月12彭世華創建初稿目錄測試目的 VPLEX測試環境的建立 SANSWITCH物理連線 SANSWITCH配置 存儲系統配置 測試場景 測試結論 測試步驟及結果 測試1:VPLEX控制器高可用測試 測試2：VPLEX后端鏈路高可用測試 測試3：雙活鏡像測試 測試4：VPLEXMETRO級聯鏈路高可用測試_1 測試5：雙活仲裁測試_1 測試6：雙活仲裁測試_2 測試7：雙活仲裁測試_3 測試8：雙活仲裁測試_4 測試9：雙活仲裁測試_5 測試10：雙活仲裁測試_6測試11：雙活仲裁測試_7場景測試及結果 測試場景1：超算VNX5800故障 測試場景2：漢唐VNX5500故障 測試場景3：所有存儲同時故障 測試場景4：WITNESS發生故障 測試場景5：VPLEX_1、VPLEX_2同時故障 測試場景6：VPLEX_1、VPLEX_2同時故障，后端存儲也同時故障 測試場景7：WITNESS與VPLEX_1IP通信中斷，其他正常 測試場景8：WITNESS與VPLEX_2IP通信中斷，其他正常 測試場景9：WITNESS與VPLEX_1、VPLEX2IP通信中斷，其他正常 7?10?..測試場景10：VPLEX_1、VPLEX2IP通信中斷，但是VPLEX_1、VPLEX2各自與WITNESSIP通信正常 測試場景11：4臺FC交換機之間的裸光纖全部故障，其他正常 測試場景12：超算FC交換機故障 測試場景13：漢唐FC交換機故障14. 測試場景14：所有交換機同時故障測試場景15：VPLEX_1與VNX5800光纖鏈路故障，其它正常

測試場景16：VPLEX_2與VNX5500光纖鏈路故障，其它正常 測試場景17：裸光纖全故障，外網LUN在超算起來，內網LUN從漢唐起來審計意見 討論反饋后備注 1.環境配置硬件：設備數量微碼/版本備注VPLEXVS225.5SP2每個機房配置雙引擎建議安裝版本5.5SP2SANSwitchsEMCDS6510B\5100B4用于連接EMCVPLEX和后端存儲現有5100微碼需要升級VNX5800\540025.33我們使用全新的VNX5800和5400測試2測試主機（待定）軟件：項目版本備注虛化化Esxi6.0物理機OL6.5多路徑軟件Esxi6.0自帶、Powerpath6.02.測試目的測試不同場景下，測試主機對EMC虛擬化存儲的訪問狀況，從而測試EMCVPLEXmetro的高可用性。VPLEX測試環境的建立SANSwitch物理連線完成測試主機到SANSwitch，SANSwitch到測試存儲系統之間的光纖連接。SANSwitch配置完成測試主機與測試存儲系統之間的ZONE配置。3.3.存儲系統配置VPLEX將已封裝的LUN分配給ESX主機及物理機4.測試場景vplex_l、Witness、vnx5800在超算機房，vplex_2、vnx5500在漢唐機房。測試內容說明預期測試1VPLEX單個director故障將一臺VPLEX的一個director的光纖線全部斷開，觀察測試主機的IO路徑和IO訪問狀況虛擬機不受影響，主機的IO讀寫能持續進行測試2VPLEX后端鏈路VPLEX的后端鏈路部分中虛擬機不受影響，主機的IO

咼可用測試斷讀寫能持續進行測試3雙活鏡像測試后端存儲VNX5800發生突然停機虛擬機不受影響，主機的10讀寫能持續進行測試4VPLEXMetro級聯鏈路（裸纖）咼可用測試_1VPLEXWAN-com級聯鏈路有一條故障虛擬機不受影響，主機可以持續讀寫數據。測試5雙活仲裁測試1VPLEXWAN-com級聯鏈路全部故障（Witness正常工作）虛擬機不受影響，主機可以持續讀寫數據。測試6雙活仲裁測試2關閉VPLEX_2，觀察測試主機的10路徑和10訪問狀況（Witness正常工作）虛擬機不受影響，主機可以持續讀寫數據。測試7雙活仲裁測試3關閉VPLEX_1,觀察測試主機的10路徑和10訪問狀況（Witness正常工作）虛擬機不受影響，主機可以持續讀寫數據。測試8雙活仲裁測試4關閉Witness,觀察測試主機的10路徑和10訪問狀況虛擬機不受影響，主機可以持續讀寫數據。測試9雙活仲裁測試5同時關閉VPLEX_2和Witness虛擬機不能運行，主機10掛起，需要在VPLEX_1上手動恢復10訪問測試10雙活仲裁測試6同時關閉VPLEX_1和Witness虛擬機不能運行，主機10掛起，需要在VPLEX_2上手動恢復10訪問

測試11雙活仲裁測試7Witness和所有WAN-com（裸纖）全部同時故障虛擬機不能運行，主機10掛起，VPLEX_1和VPLEX_2都掛起，需手動選擇恢復測試12超算VNX5800故障超算VNX5800故障測試13漢唐VNX5500故障漢唐VNX5800故障測試14所有存儲同時故障超算VNX5800與漢唐VNX5500同時故障測試15Witness發生故障Witness發生故障，其它正常測試16vplex_1 、vplex_2同時故障vplex_1、vplex_2同時故障，后端存儲存活測試17vplex_1 、vplex_2同時故障，后端存儲也同時故障vplex_1、vplex_2同時故障，后端存儲也同時故障測試18Witness與vplex_1IP通信中斷，其他正常Witness與vplex_1IP通信中斷，其他正常測試19Witness與vplex_2IP通信中斷，其他正常Witness與vplex_2IP通信中斷，其他正常

測試20Witness 與vplex_l 、vplex2IP通信中斷，其他正常Witness與vplex_1、vplex2IP通信中斷，其他正常測試21vplex_l、vplex2IP通信中斷，但是vplex_l、vplex2各自與witnessIP通信正常vplex_l、vplex2IP通信中斷，但是vplex_l、vplex2各自與witnessIP通信正常測試224臺FC交換機之間的裸光纖全部故障，其他正常4臺FC父換機之間的裸光纖全部故障，其他正常測試23超算FC交換機故障超算FC父換機故障全部故障測試24漢唐FC交換機故障漢唐FC交換機故障全部故障測試25所有交換機同時故障所有父換機同時故障測試26vplex_1 與vnx5800光纖鏈路故障，其它正vplex_l與vnx5800光纖鏈路故障，其它正常

常測試27vplex_2 與vnx5500光纖鏈路故障，其它正常vplex_2與vnx5500光纖鏈路故障，其它正常測試28裸光纖全故障，外網LUN在超算起來，內網LUN從漢唐起來裸光纖全故障，外網LUN在超算起來，內網LUN從漢唐起來測試28測試29測試30測試315.測試結論測試內容測試結論測試1VPLEX控制器咼可用測試測試2VPLEX后端鏈路咼可用測試

測試3雙活鏡像測試測試4VPLEXMetro級聯鏈路咼可用測試_1測試5雙活仲裁測試1測試6雙活仲裁測試2測試7雙活仲裁測試3測試8雙活仲裁測試4測試9雙活仲裁測試5測試10雙活仲裁測試6測試11雙活仲裁測試76.測試步驟及結果測試1:VPLEX控制器高可用測試故障模擬：其中一臺VPLEX上的一個director（控制器）突然發生故障測試方法：直接rebootdirector或者disable該director在SAN交換機的端口模擬該director故障此處采用disable端口初始相關參數：VPLEX:auto-resume-at-loser=trueCG：detach-rule=winnercluster-1after5s步驟：1， 當前主機訪問VPLEXMetro正常確認VPLEX狀態正常，確認當前無rebuild任務；斷開VPLEX_1的directorA的所有光纖線4， 登錄VMWARE管理界面觀察，記錄結果5， 登錄VPLEXGUI和CLI觀察，記錄結果。故障恢復：director重啟或者enable交換機中主機與該director的zone模擬該director故障恢復預期結果：主機的10路徑中斷一半，主機可以繼續訪問VPLEX_1測試1記錄：測試1結論：測試2：VPLEX后端鏈路高可用測試故障模擬：VPLEX與后端存儲直接的鏈路出現不穩定或故障測試方法：在交換機上disableVPLEX的后端端口（兩邊非同時）預期結果：主機可以繼續訪問VPLEX，被拔掉的一邊后端存儲顯示失效。測試記錄：步驟：1，當前主機訪問VPLEXMetro正常3，登錄SAN交換機4，找到一臺VPLEX的后端端口5，portdisable這些后端端口6，登錄VMWARE管理界面觀察，記錄結果7，登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試2結果：測試2結論：測試3：雙活鏡像測試故障模擬：VPLEX的后端VNX5800存儲突然down機，模擬后端存儲完全故障測試方法：把VNX5800的前端口在交換機上disable步驟：1， 當前主機訪問VPLEXMetro正常2，確認VPLEX狀態正常，確認當前無rebuild任務；3， 在交換機上將VNX5800存儲的端口全部關閉。4， 登錄VMWARE管理界面觀察，記錄結果5， 登錄VPLEXGUI和CLI觀察，記錄結果。預期結果：主機正常訪問VPLEX，主機端不受任何影響，虛擬機狀態正常，虛擬化平臺正常，磁盤掃描沒有變化，主機到VPLEX路徑全部都在結束時間：測試3結果：測試3結論：測試4：VPLEXMetro級聯鏈路高可用測試_1故障模擬：VPLEXMetro兩個site的WAN-com（裸纖）級聯鏈路出現不穩定開始時間：步驟：1，當前主機訪問VPLEXMetro正常2， 確認VPLEX狀態正常，確認當前無rebuild任務；3， 斷開VPLEX_1的的一個WAN-COM口的光纖線（或disable一條裸纖在交換機上的所有端口）4， 登錄VMWARE管理界面觀察，記錄結果5， 登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試4結果：測試4結論：測試5：雙活仲裁測試_1故障模擬：VPLEXMetro兩個site的WAN-com級聯鏈路全部中斷開始時間：步驟：1， 當前主機訪問VPLEXMetro正常2， 確認VPLEX狀態正常，確認當前無rebuild任務；3， 斷開VPLEX_1的的兩個WAN-COM口的光纖線4， 登錄VMWARE管理界面觀察，記錄結果結束時間：測試5結果：測試5結論：測試6：雙活仲裁測試_2故障模擬：當Witness工作正常時，模擬一個VPLEX群集故障開始時間：步驟：1， 當前主機訪問VPLEXMetro正常2， 確認VPLEX狀態正常，確認當前無rebuild任務；3， 斷開VPLEX_2的的所有接口4， 登錄VMWARE管理界面觀察，記錄結果5， 登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試6結果：測試6結論：測試7：雙活仲裁測試_3故障模擬：當Witness工作正常時，模擬另外一個VPLEX群集（VPLEX_1）故障開始時間：步驟：2，1，當前主機訪問VPLEXMetro正常2，確認VPLEX狀態正常，確認當前無rebuild任務;斷開VPLEX_1的的所有接口登錄VMWARE管理界面觀察，記錄結果登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試7結果：測試7結論：測試8：雙活仲裁測試_4故障模擬：當Witness故障時，確認VPLEX群集是否工作正常開始時間：步驟：1， 當前主機訪問VPLEXMetro正常2， 確認VPLEX狀態正常，確認當前無rebuild任務；3， 關閉Witness4， 登錄VMWARE管理界面觀察，記錄結果5， 登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試8結果：測試8結論：測試9：雙活仲裁測試_5故障模擬：一個VPLEX群集（VPLEX_2）和Witness同時故障開始時間步驟：1，當前主機訪問VPLEXMetro正常2，確認VPLEX狀態正常，確認當前無rebuild任務；3，同時關閉VPLEX_2所有端口和Witness4，登錄VMWARE管理界面觀察，記錄結果5，登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試9結果：測試9結論：測試10：雙活仲裁測試_6故障模擬：另外一個VPLEX群集（VPLEX_1）和Witness同時故障開始時間：步驟：1，當前主機訪問VPLEXMetro正常2，確認VPLEX狀態正常，確認當前無rebuild任務；3，同時關閉VPLEX_1所有端口和Witness4，登錄VMWARE管理界面觀察，記錄結果5，登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試10結果：測試10結論：測試11：雙活仲裁測試_7故障模擬：所有WAN-com（裸纖）和Witness同時故障開始時間步驟：1， 當前主機訪問VPLEXMetro正常2,確認VPLEX狀態正常，確認當前無rebuild任務；3， 同時關閉所有裸纖在光纖交換機上的所有端口和Witness4， 登錄VMWARE管理界面觀察，記錄結果5， 登錄VPLEXGUI和CLI觀察，記錄結果。結束時間：測試11結果：測試11結論：7.場景測試及結果測試場景1：超算VNX5800故障場景模擬：超算VNX5800故障測試方法：在交換機上disableVNX5800前端口預期結果：主機可以繼續訪問VPLEX,超算VPLEX顯示后端存儲故障，所有超算端Volume出錯。測試記錄：測試場景1結果：測試場景1結論：測試場景2：漢唐VNX5500故障場景模擬：漢唐VNX5800故障測試方法：在交換機上disable漢唐VNX5500前端口預期結果：主機可以繼續訪問VPLEX,漢唐VPLEX顯示后端存儲故障，所有漢唐端Volume出錯。測試記錄：測試場景2結果：測試場景2結論：測試場景3：所有存儲同時故障場景模擬：所有存儲同時故障測試方法：在交換機上disableVNX5800及VNX5500前端口預期結果：VPLEX系統顯示后端存儲故障，主機雖然連接VPLEX,但無法讀寫數據測試記錄：測試場景3結果：測試場景3結論：測試場景4：Witness發生故障場景模擬：僅Witness發生故障測試方法：關閉Witness虛擬機預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Witness連接中斷。測試記錄：測試場景4結果：測試場景4結論：測試場景5：vplex_1、vplex_2同時故障場景模擬：vplex_l、vplex_2同時故障測試方法：在交換機上Disablevplex_l、vplex_2的所有前端及后端預期結果：VPLEX系統顯示所有Cluster故障，主機訪問中斷。測試記錄：測試場景5結果：測試場景5結論：測試場景6：vplex_l、vplex_2同時故障，后端存儲也同時故障場景模擬：vplex_l、vplex_2同時故障，后端存儲也同時故障測試方法：在交換機上Disablevplex_l、vplex_2的所有前端及后端，Disable所有存儲前端預期結果：VPLEX系統顯示所有Cluster故障，主機訪問中斷。測試記錄：測試場景6結果：測試場景6結論：測試場景7：Witness與vplex_1IP通信中斷，其他正常場景模擬：Witness與vplex_lIP通信中斷，其他正常測試方法：撥出超算vplex_l的管理網線預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Clusterl的Witness連接中斷。測試記錄：測試場景7結果：測試場景7結論：測試場景8：Witness與vplex_2IP通信中斷，其他正常場景模擬：Witness與vplex_2IP通信中斷，其他正常測試方法：撥出漢唐vplex_2的管理網線預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Cluster2的Witness連接中斷。測試記錄：測試場景8結果：測試場景8結論：場景模擬：Witness與vplex_l、vplex2IP通信中斷，其他正常測試方法：在虛擬機上斷開Witness的網卡連接預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示Witness連接中斷。。測試記錄：測試場景9結果：測試場景9結論：7.l0.測試場景l0：vplex_l、vplex2IP通信中斷，但是vplex_l、vplex2各自與witnessIP通信正常場景模擬：vplex_l、vplex2IP通信中斷，但是vplex_l、vplex2各自與witnessIP通信正常測試方法：斷開vplex_l、vplex2之間的網絡路由預期結果：主機訪問VPLEX正常，超算及汊唐Cluster正常，系統提示WitnessVPN連接異常。。測試記錄：測試場景10結果：場景模擬：4臺FC交換機之間的裸光纖全部故障，其他正常測試方法：Disable所有DS6510與DS5100之間的所有級聯端口預期結果：超算主機訪問VPLEX正常，漢唐主機訪問VPLEX故障，|VPLEX系統顯示ClusterPartition。測試記錄：測試場景11結果：測試場景11結論：測試場景12：超算FC交換機故障場景模擬：超算2臺DS6510交換機故障測試方法：關閉超算2臺DS6510交換機所有電源預期結果：漢唐主機訪問VPLEX正常，超算主機訪問VPLEX故障，|VPLEX系統顯示ClusterPartition。測試記錄：測試場景12結果：場景模擬：漢唐2臺DS5100交換機故障測試方法：關閉漢唐2臺DS5100交換機所有電源預期結果：超算主機訪問VPLEX正常，漢唐主機訪問VPLEX故障，|VPLEX系統顯示ClusterPartition。測試記錄：測試場景13結果：測試場景13結論：測試場景14：所有交換機同時故障場景模擬：4臺SAN交換機故障測試方法：關閉超算及漢唐4臺SAN交換機所有電源預期結果：VPLEX系統顯示所有Cluster故障，主機訪問中斷。測試記錄：測試場景14結果：測試場景14結論：測試場景15：vplex_1與vnx5800光纖鏈路故障，其它正常場景模擬：vplex_1與vnx5800光纖鏈路故障，其它正常測試方法：Disablevplex_1與vnx5800所在的SAN交換機端口預期結果：所有主機可以繼續訪問VPLEX,VPLEX系統顯示Cluste