




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、所有 ©非經本公司播。2016。 保留一切權利。技術,任何和個人不得擅自摘抄、本文檔內容的部分或全部,并不得以傳商標和其他商標均為技術的商標。本文檔提及的其他所有商標或商標,由各自的所有人擁有。注意您的、服務或特性等應受公司商業合同和條款的約束,本文檔中描述的全部或部分、服務或特性可能不在您的的或保證。或使用范圍之內。除非合同另有約定,公司對本文檔內容不做任何明示或默示由于版本升級或其他,本文檔內容會不定期進行更新。除非另有約定,本文檔僅作為使用指導,本文檔中的所有陳述、信息和建議不任何明示或暗示的擔保。技術地址:市龍崗區坂田總部辦公樓:518129:客戶服務郵箱:support.c
2、om客戶服務:文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術iVCN3000技術白皮書目 錄目錄12修訂1簡介22.12.2方式的轉變2的發展2網絡3 應用場景及常見方案43.1 網絡3.1.1 小型應用場景分析4場所43.1.2 大中型場所及聯網場景53.1.3 平安城市63.2 NVR、IP SAN、NAS 及云方案分析63.2.1 NVR3.2.2 IP SAN方案6方案73.2.2.1 IP SAN 直存方案83.2.2.2 高密IP SAN 方案83.2.3 NAS3.2.4 云方案8方案944.1 云VCN 方案11架構設計114.1.1 Server
3、SAN架構114.1.2 索引元數據優化及數據保險箱技術134.1.2.1 索引元數據優化設計134.1.2.2 數據保險箱技術134.1.3 Safe優化技術154.1.3.34.1.3.44.1.3.54.1.3.6壞道緩解技術15文件系統與 RAID 層融合技術16文件系統塊技術17RAID 技術184.1.3.6.1 RAID 快速初始化184.1.3.6.2 RAID 熱備無回拷194.1.3.6.3 RAID 組內持續可讀20文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術iiVCN3000技術白皮書目 錄4.1.3.6.4 RAID 組間負載均衡214.
4、1.3.7 圖片混合技術234.1.4 堆疊與云化集群管理技術254.1.4.1 堆疊管理模式254.1.4.2 云化集群管理模式284.2 安全可靠設計324.2.1 硬件可靠設計324.2.2傳輸安全324.2.3 緩存補錄334.2.4質量診斷344.2.5 碼流轉發與備份354.3 易捷好用設計364.3.1 快速配置系列364.3.2 設備自動巡檢374.3.3 客戶端自動升級394.3.4 智能前端集成管理394.3.5業務 QoS404.4 開放兼容設計414.4.1 前端接入特性414.4.2 平臺互聯互通特性434.4.3 門禁、系統接入4356結論45縮略語表46文檔版本
5、1.5 (2016-12-08)專有和所有 ©信息技術iiiVCN3000技術白皮書1 修訂1修訂文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術1日期修訂版本描述作者2014.12.23V1.0初稿梁春麗2015.08.19V1.01. 修改 2.2.3 增加回放上墻2. 修改 3.1.6 增加集群管理梁春麗2016.01.10V1.21.增加 3.1.7 碼流轉發功能與備份功能2.新增 VCN3010/3020鮑鵬程2016.03.31V1.31. 修改 2.2.5 前端智能分析2. 修改 3.1.5 緩存補錄3. 刪除 3.2.1機自動發現4. 新增
6、3.2.1 快速配置系列徐子沛2016.06.25V1.41.增加大聯網功能描述李雪強2016.12.08V1.51. 調整文檔結構2. 增加“2 簡介”部分3. 增加“3 應用場景及常見方案”部分4. 刪除“2概述”部分5. 刷新“3”為“4VCN 解決方案”黃立VCN3000技術白皮書2 簡介2簡介2.1方式的轉變經過 30 多年高速發展,已經從最初只應用于單個民生安全保障的簡單設備工具,發展到今天在多個行業領域內蓬勃發展的實用業務。而隨著業務的發展,視頻技術也在不斷的進行著轉變。早期正如其英文名所寫 CCTV 那樣,僅僅是廣播電視的另外一種應用模式,通過閉合電路,傳輸模擬攝像機所的模擬信
7、號到達后端,此時后端方式方多數采用傳統廣播電視模式,即帶(磁帶)的方式,此時的式可以理解為模擬方式,一盤帶的時長大概在一到兩個小時。而隨著數字化編碼技術的發展,從純粹的模擬模擬信號轉變為轉變為半數字化的監控。模擬攝像機經過編碼設備,將軸電纜上的 SDI 信號,進行傳輸和數字信號,比如常見的同。此時后端方式依托于壓縮技術的快方式,比如從 MPEG 到模型轉變為了硬盤速發展,逐步從簡單的數字方式轉變為壓縮后的數字MPEG2 再到MPEG4 的迅速發展,DVR 也從原來的帶模型。特別是從 MPEG4開始,攝像機也開始進行數字化的轉化,數字編碼器也在開始著網絡化的轉化,除了 DVR 的相對硬盤模型,S
8、AN 也在少數大型或高可靠的系統中開始了應用。近年來隨著壓縮技術的進一步發展,模擬攝像機逐漸被機所替代,采用H.264、H.265 等新一代的壓縮技術,可以使得壓縮編碼方式徹底前移到端, 在 系統而相應的DVR 的可以在前端編碼壓縮后直接通過以太網絡進行傳輸,后端硬盤模型基礎上進化出 NVR 設備。而一些相對大型的中也逐步出現把 IP SAN、NAS 等網絡方式應用于。2.2網絡的發展由于 HD-SDI 這種 HD over Coax 的模型出現,在演進的過程中,依然有一些近年新建的系統是采用著非以太網絡的方式進行傳輸。而在這些監控系統中,還是采用了 DVS 進行了壓縮編碼后再通過以太網絡進行
9、,因此雖然這也是標準意義些系統嚴格來說不能從屬于“網絡”的范疇,但是其,也主要采用著 IP SAN、NAS 等網絡的網絡方式,因此僅從后端存儲的角度也還是在本章節的討論范圍內的。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術2VCN3000技術白皮書2 簡介在上一段的補充說明及再上一章節的鋪墊描述中,可以明確目前主要的演進方向正是采用以太網絡的方式,也多稱為 IP。在此模式下的機,一般簡稱為 IPC,即 IP Camera,而對應的后端網絡行了簡單說明,主要有 NVR、IP SAN 和 NAS 三種。方式,在上一章節中也進由于 NVR 是從 DVR 所演進過來的,所
10、以在業內一直有兩種看法,一種認為 NVR 是早期,一種則認為 NVR 是小型。這兩種看法有所片面,但也具備一定的代表性。相對 DVR 來說,少了編碼能力的 NVR,在發展形態上確實是既具備跟 DVR 基本使用功能上基本一致的“早期”特色,也主要采用 ARM為主,具備“小型”的設計原則。而 IP SAN 和 NAS 則主要配合相應 VMS 的服務器,實現在 IP SAN 或 NAS 中進和按需回放。其中在 IP SAN 和 NAS 方案中行讀寫的需求,以實現長期都有IPC 進行獨特設計的直存演進方案,即 IPC 直接寫到 IP SAN 或 NAS,但是該方案并未能成為主要的演進方向。另外隨著云計
11、算、大數據等技術的興起,業內也在鼓吹“云”的方案,特別是部分激進廠商一直在鼓吹采用 HDFS 的云案也未能成為主要的演進方向。方案,但是從目前的發展形勢來看,該方文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術3VCN3000技術白皮書3 應用場景及常見方案 3 應用場景及常見方案3.1 網絡3.1.1 小型應用場景分析場所一般來說在小型場所里面,面積小,受空間制約攝像機的路數并不多,通常都少于 16 路,個別情況也應該不超過 32 路,此時對的主要要求往往受制于投資而不是實際業務需求,而業務需求方面除了像等金融網點因為涉及到可能產生的現金,有比較嚴格的規定及訴求外,
12、基本就是個簡單的安保需求。在這種場景下如果采用網絡端到端解決方案,通常的方案都會選擇采用NVR。而只有類似這種對主營業務影響較高的,才會在方案的可靠性上提高要求,不能簡單采用級硬盤,會要求設備具備一定的寫冗余能力。設備有類似早期 4 盤位 DVR 所具備的 3+1 寫入方案,即投資最少的也會要求順序寫入 3 個盤(A、B、C),一段時間內 ABC 盤只會有其中 1 個盤被寫入,但同時還有 1 個盤(D)是時刻在寫入的,這種設計的出發點是基于該方案下硬盤損壞主要是在寫入的時候產生的,因此該方案也不太適用于搜索和回放比較多的場景。投資好一點的會要求設備具備有 RAID5(少數乃至要求 RAID1)
13、能力,而在級硬盤,如果盤位大于 8 個,此場景下,如果盤位少于等于 8 個,一般依然采用則只有嚴謹的設備商才會建議采用企業級硬盤,而普通商和集成商甚至個別設備商會冒低風險建議采用級硬盤。同樣受空間制約,設備一般不具備機柜擺放條件,而只有在等金融網點或類似的特殊條件下才可能具備機柜,此時機柜多數是 600mm 或 800mm 深的機柜,不是數據中心常見的 1000mm 深的機柜,因此要求設備一般不高于 2U,凈深度小于600mm。無論在哪種情況下,因為一般受空間和投資限制單獨配置安裝客戶端軟件的 PC,設備需要具備直接輸出到顯示器的能力,即常見的 VGA 輸出功能,可以直接通過 USB 連接的鼠
14、標鍵盤直接在 VGA 輸出模式下管理和使用本要求。是基文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術4VCN3000技術白皮書3 應用場景及常見方案3.1.2 大中型場所及聯網場景一般超過 50(中型)乃至 100 路(大型)的都可以統稱為大中型場所,常見的包括單個大面積地點如機場和大片區如校園。在這種場景下如果采用網絡端到端解決方案,通常設備都會通過同一個機房或數據中心的機柜進行集中部署。就目前的業界發展水平來看,多數客戶都會選擇清晰度不能低于 720P的效果,隨著 H.265 的市場逐步推廣,1080P 全萬像素和 500 萬像素的超正在成為主要的清晰度選項,個
15、別會要求 300機,暫時(2016 年)只有非常非常的業務場景會考慮采用 4K(800 萬像素)的方案。而在留存時長方面比前面的場景要來得好一些,雖然也主要根據場所周邊地區的平均要求來實施,但是 15 天及以上的占多數,30 天(一要選項。如果是一些特殊的業務場所比如金融網點和對)正在成為這種場景下主來說比較重要的交通樞紐比如軌道交通站,90 天(三)也是常見的選項。如果是小路數的 16 路 NVR 或者 32 路 NVR 在不考慮 NVR 的容量是否可以滿足天數要求的條件下,都要超過 3 臺(50>3*16=48,100>3*32=96),因此該場景下會要求設備具備有 RAID5
16、 等冗余能力,且每 2U 設備空間的盤位肯定要大于12 個盤位,以保證隨著場所本身運營要求的提高,機柜空間還能充裕使用。另外在越來越多的搜索和回放需求條件下,一般應盡量選用企業級硬盤,以應對 7x24 小時不間斷寫入和偶爾隨機的業務要求。由于路數多,留存時間在分析需長,所以在智能分析方面也對求提出的時候能夠盡快進行處理。提出了更高的 I/O 要求,以保證大量而在此方案下,一般也會單獨配置安裝客戶端軟件的 PC,作為基本實況使用和簡單系統管理使用。從運維角度出發,設備本身也需要能自成體系地被管理,而不是分散成一臺一臺,因此多數會采用 IP SAN 和 NAS 集中方案。類似的還有聯網的場景,即便
17、是上一小節的分析情況,一旦涉及到了聯網的場景,就會向大中型場所的方案選擇上靠近。比如說軌道交通中,每個站的根據站的大小不同本來應該有所區別的,但是考慮到聯網使用的一致性,以及運維的統一性,一般都會統一采用大中型場所場景下的方案。在聯網場景下,根據業務的重要性和運維的統一性,也會盡量選用企業級硬盤,除了前面所考慮應對 7x24 小時不間斷寫入和偶爾隨機的回放要求外,還要考慮到實況調用和級,對應的回放乃至的訴求,甚至因為聯網后整體路數量更提升了一個數量也達到一個海量的總數,因此的可靠性和回放的可用性要求會進一步提高。在此場景下,多數會采用 NAS 分布式方案和 NVR方案。方案,也會根據具體站點情
18、況采用 IP SAN而在上面提到的小型服務提供商,整個端到端場所又涉及到聯網場景的時候,最近市場上正在興起云系統提供租賃而不需要客戶、用戶去自建,在不考慮法律等要求的情況下,部分云服務確實給客戶、用戶帶來了便捷。但該方案主要不在本章節的討論范圍內。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術5VCN3000技術白皮書3 應用場景及常見方案3.1.3 平安城市以公共安全為主題建設的平安城市業務場景,基本上是上面兩個小節所描述場景的集大成者,在該業務場景下一般在國內單個區域建設規模能超過 5000 路,在海外單個區域建設規模超過 2000 路。由于路數總量大,且公共安
19、全對保存并作為證據的要求較高,基本上對設備的需求都是大中型場所及聯網場景的最高要求。一般由于路數總量大所帶來的組網壓力問題,多數會采用 1 個超大型數據中心或多個區域數據中心的后端建設模式。另外由于在一個區域內還可能包含跟金融網點、機場、校園、軌道交通等前面提及的場景的聯網有更高的要求。,所以對設備系統的超大容量管理能力和聯理能力也會因此目前除了前面已經提及的多種方案及結合各種方案外,隨著 IT 技術的演進,還出現采用高密 IP SAN 的解決方案,以及云的解決方案。3.2 NVR、IP SAN、NAS 及云方案分析3.2.1 NVR方案前面章節已經提過,作為從 DVR 演進過來的 NVR方案
20、,在減少了原來的壓縮編碼后,重點就是做好攝像機這類的設備接入,然后在此基礎上再做好放所需要的元數據索引,最后才是把文件數據保存在 NVR 的硬盤里。搜索回NVRIPC這個方案最大的好處是跟 DVR 傳統系統一脈相承,對于集成商部署實施,以及客戶用戶具體使用,都會感覺與原來的差別并不大。而由于傳統上都是采用 ARM作為 NVR 的的,因此在設備接入方面,也會受此影響特別重,即便同級別 ARM沒有了作為 DVR 的時的路數編碼限制,一般 NVR 單個設備可以同時接入的設備也非常有限。設備來說,一般索引文件也就是保存在 NVR 的作為文件系統內,受設備常用的板上 Flash 器件選擇的容量一般比較小
21、限制,索引文件總容量也不能做得太大,因此在搜索方面肯定也會性能差一些,對日益提高使用的標記定位,以及將來的智能標記來說也會難以支持。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術6文件數據索引設備接入VCN3000技術白皮書3 應用場景及常見方案同樣受 ARM的性能限制,對文件的寫入主要基于該操作系統下的提供支持。因文件系統進行,而且 RAID 組方面如果需要,還得通過額外的硬件此在文件數據寫入方面穩定可靠性方面也會略差。另外在 I/O 方面相對于 x86的服務器設備來說要弱上不少,因此在大量單個容量較大的文件寫入也會存在瓶頸。同時對于正在進行的保存業務的 NVR
22、來說,如果是在聯網場景下還需要同時轉發大量的碼流,必然會對設備的可靠性和穩定性造成影響。3.2.2 IP SAN方案大量地采用 IP得益于技術的演進以及友商們的力捧,近年來大中型網絡SAN 方案,而這一方案通過對服務器和不錯。的靈活配置,在適配不同的場景方面確實ServerIPCiSCSIIP SAN如上圖所示,通過靈活配置 Server 數量,可以應付不同數量 IPC 的接入規模;同時采用 Server 上配置的的文件系統,IP SAN多個 LUN,保證了 Server 能夠對大量的通過自身的 RAID 能力,向 Server 提供了文件數據進行寫操作。該方案在部署上需要注意兩方面的配置,一
23、個是 Server 的配置數量,確保能夠滿足對這么多 IPC 的設備接入以及流轉發;另一個是 LUN 的配置參數,確保 Server 所轉發的流寫入操作是能充分使用到 IP SAN 所配置的 LUN 并發寫入的。也正是因為這方面配置的,傳統安防行業的集成商和用戶對這種 IT 設備的配置不熟悉,也導致了個別工程、項目在不合適的實施和配置下,達不到原先系統設計的初衷。雖然是同一個文件系統,但是在設備接入后進行流轉發,以及根據索引去找到錄像文件進行回放,均通過 iSCSI 協議進行網絡封裝。因此該方案最大的不足就是通過 iSCSI 反復進行拆解包所帶來的消耗,從以往項目經驗來看,在搜索、回放方面要明
24、顯比 NVR 那類的 DAS 方案稍慢一些。另外在可靠性方面,一旦服務器的索引受損,即便該故障不是因為服務器上與 IP SAN共同的文件系統引起,IP SAN 本身不受影響,失去了索引的文件數據也沒有辦法準確地搜索到所需要的,基本可以認為失去作用了。因此該方案在可靠性方面需要一些輔助進一步加強。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術7文件數據索引設備接入VCN3000技術白皮書3 應用場景及常見方案該方案主要采用 scale-up 的模式進行擴容,從整體管理來說比較適合集中場景,比如說前面章節提及的大中型場所及聯網場景。的應用基于此靈活架構,還衍生出了兩個輕
25、微差別的方案:3.2.2.1 IP SAN 直存方案如下圖所示,攝像機直接將碼流通過 iSCSI 協議寫入到 IP SAN 中去。這個方案雖然降低了服務器上的 I/O 帶寬,但是索引仍然需要保存在服務器中,同樣根本沒有解決前面提及的索引丟失帶來的可靠性問題。ServerIPCiSCSIIP SAN另外因為攝像機與 IP SAN 之間需要直接能建立起 iSCSI 協議的寫入連接,而目前已知的通用協議 GB/T 28181 和 ONVIF 并沒有iSCSI 協議進行的詳盡定義,攝像機也需要該 IP SAN 具備私有的信令協議交互能力。3.2.2.2 高密 IP SAN 方案該方案既有上述的 IP
26、SAN 直存組網方案,也有前述的典型 IP SAN 組網方案,唯一的區別在于采用了高密 IP SAN,即 IP SAN 的機頭性能尚可,而拖框方面則采用了高密硬件,比如說 48 盤位、60 盤位、75 盤位等。該方案最大的不足正是來自“高密”的硬件,主要有兩方面的問題,一方面是高密硬件往往是從設備的上面進行硬盤拔插操作的,對于在前面場景分析中可見的機柜部署來說,往往是上下間隔并不大的,也就意味著該方案必須要有十分直觀的故障報告方式,比如說不用通過拖軌把機箱拉出來就能通過指示燈看到需要進行故障處理了;而另一方面也是因為高密硬件可以支持的容量上去了,從容量角度來看自然對于單一場景下的攝像機可以支持
27、的數量是變多了,所以也進一步考驗機頭能夠承受的最大并發 I/O。3.2.3 NAS方案該方案主要見于海外市場,尤其是 EMC 在 NAS 方面做得比較好,在 EMC 的優勢區域以及歐美的傳統 VMS 市場上會比較多用。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術8文件數據索引設備接入VCN3000技術白皮書3 應用場景及常見方案ServerIPCCIFS/NFSNAS如上圖所示,NAS 設備通過 CIFS、NFS 等網絡文件系統協議,共享了 NAS 設備上的文件系統給服務器,服務器通過網絡文件系統協議對 NAS 進行讀寫操作。很明顯該方案在協議上的開銷要比 IP
28、SAN 來得更大,CIFS/NFS 的方式遠比 iSCSI 的硬件拆解包方式更消耗DAS 方案慢。,也使得在搜索、回放方面要明顯比 NVR 那類的另外運維方面,因為 NAS 跟服務器的文件系統也不一致,所以在 NAS 管理方面也需要一些輔助進一步加強。不過在組網和擴容方面該方案凸顯出強大的靈活性,明顯可以看到 NAS 因為直接通過網絡 TCP/IP 交互,所以在網絡中可以相對隨意地進行部署,另外在擴容中也可以采用scale-out 而不是 scale-up 的方式,帶來了更為靈活的選擇,不需要在服務器上像 IPSAN 擴容那樣增加的 LUN 進行細致的配置。因此該方案比較適用于分布式部署應用場
29、景,比如前面章節所描述的聯網場景。3.2.4 云方案該方案比較少見,主要是來自于一些非傳統的 IT 廠商,隨著云計算、大數據等 IT 新技術的興起,采用了云的方案來適配網絡場景。ServerIPC云節點由于目前該方案實在比較少見,所以上圖示意的索引部分還是存在變數,目前方案可能在服務器和云VMS 服務器跟云管理節點都有保存索引;而暫時分析最為合理的方案應該是看看管理節點能否進行合設。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術9云管理節點文件數據索引設備接入文件數據索引設備接入VCN3000技術白皮書3應用場景及常見方案但是無論怎么調整,云大的方向還是基于 HDF
30、S 進行數據的,這一塊是整個架構,是為后面方案用于網絡最為不合適的地方。因為 HDFS 的數據云搜索所需的 M-R(Map-Reduce)服務的,因此其通過多個副本實現的快速搜索是符合類似互聯網結構化數據搜索的業務應用訴求的。雖然在前面的應用場景分析里多次提及客戶、用戶對可靠性保障的需求,但是即便是對于 7x24 小時的重點場所來說,依然有大量的是沒有價值的,在經過研判分析后都可說是沒有用的。所以簡單把對互聯網結構化數據搜索,是不合適的。搜索的潛在需求,生搬地類比為不應采用 HDFS 這樣的“云”技術,因為 HDFS 的副本綜上,網絡率比較高,無論怎么優化,都遠遠高于 RAID 所占用的冗余空
31、間。大量非結,傳統 IT 云構化的技術并不適用。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術10VCN3000技術白皮書4VCN 方案4VCN 方案4.1 云架構設計從前面章節的場景分析和方案分析,可以看到目前網絡的發展方向并不是簡單地套用傳統 IT 的 IP SAN 和 NAS 方案,也可以看到簡單地套用云方案更是完全適配不了網絡場景。因此堅持從業務本質出發,試圖探索出一條云的可行。VCN3000 的上一代V1300N 首次采用了 Server SAN 架構模型,結合了 NVR管理能力,也綜合了 IP SAN 和 NAS 的大部分傳統 IT的傳統讀寫優點,推出市
32、場之后逐步受到國內個行業都在樹立起類似的云客戶的認可,導致了多個友商的跟進學習,帶動了整架構模式。而在 V1300N 的基礎上,VCN3000 系列進一步加強設計,豐富完善整個云監控節點架構,并采用這一云節點架構設計為基礎去構筑全網云體系去適配多種應用場景。體系,以統一架構4.1.1 Server SAN架構Server SAN 的定義最早出自國外著名的分析師社區 Wikibon,其定義非常直白,Server SAN is software-led storage built on commodity servers with directly attached storage (DAS) 還
33、有 Server SAN is defined as a pooled storage resource comprising more than one storage device directly attached to separate multiple servers (more than one),即通過軟件定義的,由多個服務器帶的組成的一個池。VCNIPC文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術11文件數據索引設備接入VCN3000技術白皮書4VCN 方案如上圖所示,正是在 Server SAN 這個定義之下,我們找到了這么一個設計模式,可以兼顧
34、 NVR 傳承自 DVR 的安防業務傳統,也可以兼顧 IP SAN 的靈活配置和集中優勢,以及 NAS 的靈活組網和分布式優勢。貫穿始終的是軟件定義(software defined)或者說是業務驅動(service driven)的設計理念云:1.從前面章節中對多個場景分析總結出來的,在做好和回放這個業務之VCN 方案選擇是要前,一個好的云架構首先得先把設備接入管理做好,兼顧 NVR 的配置和管理模式,即集成并加強類似 NVR 的接入和管理部分軟件;2.其次是對索引優化為搜索效率的加強和對可靠性的加強,即集成并加強類架構;似 NVR 的索引部分軟件和單設備 SAN 的3.最后是對多個服務器帶
35、的進行池管理的能力,設備既可以集中部署如 IP SAN 一般,也可以分布式部署如 NAS 一般,同時還能統一管理如云或新一代統一理能力。一般,即集成一個彈性的滿足多個設備級擴容的空間統一管綜上,VCN3000 的Server SAN 基礎架構,在一臺高性能 x86 硬件上既轉發,保證了類似 NVR 的簡單安防管理能了 Server 側的設備管理、設備接入、力;也了 SAN 側的池管理、多級索引(優化)、(增強),實現了集和回放的先中部署和分布式部署可以靈活配置調整,無論怎么組網都能高效進 IT 能力。而除了小型場所以外,大中型場所及聯網場景,和平安城市一樣,隨著智能化建設需求的越來越多,除了平
36、安城市由于各個具體業務發生的設備點實際所需要的并發實況瀏覽和回放的需求是動態變化并巨大的,因此需要跟路數基本匹配的媒體轉發能力以外,現在各個業務場景都需要預留給智能分析場景用于流提取進行分析運算的轉發和分發能力。如下圖架構,通過采用 Server SAN 這一新型基礎架構,VCN3000 可以集多家方案之長,給予各種復雜場景以各種所需要的部署方式,滿足業務的多樣性。ServerSANVCN文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術12增強轉發設備接入多級索引優化池管理設備管理VCN3000技術白皮書4VCN 方案4.1.2 索引元數據優化及數據保險箱技術4.1.
37、2.1 索引元數據優化設計傳統 NVR 在索引等元數據方面是采用了 DVR 的元數據模式,都通過系統中的在主板上的 Flash進行了該類數據,由于對應的索引并不不多,所以雖然傳統 Flash但是 Flash 這類的 I/O 并不是很大,但是基本的檢索能力是可以保障的。最大的問題在于,其物理結構是電氣化的,區別于磁盤的磁化,一旦出現數據丟失是非常容易出現整個都丟失掉的,而不像磁盤那樣還是需要一段時間才能真正意義的將數據整個置零。所以傳統 Flash 方案一般會通過外接 USB 存儲的方式定期要求集成商等技術維護團隊對索引等元數據進行備份。而在 IP SAN 和 NAS 引進到網絡系統后,該類元數
38、據隨著設備所管理的磁盤容量、數量的增多帶來的需要管理的數據大量增加,整體容量上也需要進一步提升,因此一般都在服務器的磁盤中進行。但是因為服務器的磁盤上一般也沒有太多的保護措施,所以在具體的建設中偶爾也會出現索引的丟失,而由于索引對應的量非常大,所以帶來的后果也非常嚴重,那些還保存在設備中的幾乎是不再可用的了。基于對傳統方案的研究,以及具體業務場景的深入理解,VCN3000 設計了索引元數據優化方案,首先在索引元數據與的關聯上,通過方面的技術優化(見下一小節 Safe優化),使得索引到的指針跳轉非常快速,確保檢索上面可以隨著容量的不停增加以及檢索請求的層級增多,檢索時間出現量級上的變上采用了高速
39、 SAS化,保持在 3 秒內可以搜索到所需。其次在索引元數據的硬盤,并在使用中預到內存中,確保多個檢索請求由于硬件造成瓶頸。最后還設計了數據保險箱技術,確保索引元數據可以在條件下進行恢復,保證了系統的整體可用性。的 SAS 硬盤損壞2. 索引硬件讀寫優化VCN1. 索引關聯算法優化3. 數據保險箱技術IPC4.1.2.2 數據保險箱技術考慮到高速 SAS 硬盤損壞的條件下,索引等元數據在 SAS 硬盤中也全部丟失,默認就啟用的數據保險箱技術在就自動將索引等元數據定期無人工干預的情況下保存到數據區域中,如下圖所示。一般每個 RAID 都會進行備份,但是備份的內容是具體散列到每個數據盤中的。文檔版
40、本 1.5 (2016-12-08)專有和所有 ©信息技術13索引文件數據設備接入VCN3000技術白皮書4VCN 方案元數據盤M1而當出現老的 SAS 硬盤故障時,可以采用新的 SAS 硬盤(通過保修獲取,內置全新軟件)到已經拔下老的 SAS 硬盤后的插槽中,系統自動將數據區域中數據全部可的元數據進行還原,這樣恢復后的 VCN3000 設備又能繼續投入使用,用。只要有一個 RAID 完好,都能保證索引等元數據的還原,如下圖所示選擇最完整的索引元數據進行還原。元數據盤M1文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術14RAID組3校驗盤P3數據盤D12數
41、據盤D11數據盤D10數據盤D9RAID組2校驗盤P2數據盤D8數據盤D7數據盤D6數據盤D5RAID組1校驗盤P1數據盤D4數據盤D3數據盤D2數據盤D1元數據盤M2RAID組3校驗盤P3數據盤D12數據盤D11數據盤D10數據盤D9RAID組2校驗盤P2數據盤D8數據盤D7數據盤D6數據盤D5RAID組1數據盤D4數據盤D3數據盤D2校驗盤P1數據盤D1元數據盤M2VCN3000技術白皮書4VCN 方案4.1.3 Safe優化技術系統的規模越來越大,隨著化、網絡化逐漸開始成為片段丟失的風險變得越的潮流和趨勢,來越突出。對于很多系統需要應對海量數據的,的應用,往往需要滿足嚴格的規范要求,以保
42、證數據的完好無損。由于內容一旦丟失即難以,因此保護硬盤數據對于系統來說點。同樣的。如何對這些海量數據進行有效和數據保護成為了客戶關注的焦,由于信息量的大幅增加,也使得用戶對系統的海量數據讀寫能力有了更高的要求。業務的深入研究,研發出 Safe通過對流技術,有效應用于等流領域。Safe 夠最大限度的發揮是一種基于磁盤塊的流優化的和數據保護技術,能系統設備的作用。4.1.3.3 壞道緩解技術Safe優化技術從每一個硬盤開始進行構筑。Safe增強方案, 區和保留區。保留首先采用了磁盤壞道緩解的技術,將磁盤的邏輯空間,劃分為區大概占整個邏輯空間約 5,專門在磁盤出現邏輯壞道的時候可以進行替換使用,以緩
43、解壞道出現所帶來的硬盤損壞情況。傳統 RAID 系統中,當硬盤的壞道數超過 5時,即直接認為硬盤故障。而 Safe技術中,系統自動檢測磁盤壞道并即時用保留區替換以進行緩解處理,并在系統中告警日志;而邏輯壞道的情況,Safe還提供壞道修復功能,可以對磁盤邏輯壞道嘗試恢復,提高磁盤可用性,降低故障率。路數建設的場景,設備采用此技術哪怕降低 1的平安城市這類超大規模磁盤故障率,也使得系統的可用性穩健地提高,連同在物理硬件設計中采用的硬盤緩上電技術,極大地降低了硬盤更換率,能使得整個系統的運維成本大大降低。Safe磁盤保留區磁盤正常的邏輯空間劃分文檔版本 1.5 (2016-12-08)專有和所有 &
44、#169;信息技術15VCN3000技術白皮書4VCN 方案磁盤邏輯壞道Safe磁盤保留區磁盤出現邏輯壞道的邏輯空間劃分區:圖上無論什么顏色,均是用來用戶數據的區域;保留區:當邏輯區發生壞道時,用此區域的空間進行壞道替換,告警依然會產生,但是后續如果確認是邏輯壞道并能嘗試軟件修復的時候,在嘗試失敗后標記為壞道并產生告警,而如果能夠修復,則在修復后出發告警消除通知,并將該修復空間轉變為磁盤保留區。4.1.3.4文件系統與RAID 層融合技術采用的 Safe技術,結合應用場景實現了數據直寫磁盤,避免了文件系統和 RAID 層層緩沖和切割造成的性能損壞。并且可以直接對單個硬盤進行直接,從而避免了的
45、IO 請求被分割成多個子 IO,極大的增強了數據的讀寫性能。在設計軟件模塊時的特點優化了數據流的 IO 特性,提高了單次 IO的吞吐量,提高系統性能,降低了 IO 頻率。優化的算法提升了系統可靠性,同時帶來額外的好處,降低磁盤占空比,延長磁盤服務周期。VCN FS & “ RAID”IP SAN FS & RAIDNAS FS & RAIDSafe文件系統及 RAID 層融合原理文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術16IP SAN RAIDNAS文件系統NAS RAIDSafe文件系統“Logical Unit Number”Saf
46、e“RAID”服務器文件系統Volume Group服務器文件系統Logical Unit NumberVCN3000技術白皮書4VCN 方案Safe應用場景將文件系統與 RAID 層組合起來,在操作技術創新地系統內不再像通用的 IP SAN 和 NAS 方案那樣從文件系統再通過 LUN 或者 VG 來去訪問 RAID 層,再通過 RAID 層來去硬盤。雖然 Safe也是模擬了 SAN 的 LUN接口方法和 RAID 層,但是通過 Safe技術實際上是能夠非常清楚地直接觸碰到具體的塊。后,Safe技術能夠給 server 側的因此在拋開了層層邏輯接口對接的傳統轉發提供足夠的 I/O,平安城市、
47、軌道交通、金融網點等回放業務固定比較多乃至同步回放的場景,能協助用戶更快速、更大量地同時找到希望回放的數據存儲段,利于業務的順利開展。4.1.3.5文件系統塊技術扇區是磁盤最小的物理單元,但由于傳統文件系統無法對數目眾多的扇區進行尋址,所以傳統文件系統就將相鄰的扇區組合在一起,形成一個簇,然后再對簇進行管理。每個簇可以包括 2、4、8、16、32 或 64 個扇區。顯然,簇是文件系統所使用的邏輯概念,而非磁盤的物理特性。為了更好地管理磁盤空間和更高效地從硬盤數據,文件系統規定一個簇中只能放置一個文件的內容,因此文件所占用的空間,只能是簇的整數倍;而如果文件實際大小小于一簇,它也要占一簇的空間,
48、而如果文件實際大小大于一簇,它就會分割成兩塊占用兩簇的空間,也因此在傳統文件系統中會產生文件碎片。傳統方案中,采用文件方式,流數據被切成一個個文件進行,歷史圖像回放都是通過調用下來的文件實現。在大規模系統中,采文件,給文文件的大小文件寫入磁盤的用文件方案,存在兩個嚴重技術缺陷,一方面是數量越來越多的件系統帶來重負的處理;另一方面,隨著時間的累積,因為不一,傳統的文件系統具有固有的缺陷(上一段落描述),導致在時候占用傳統文件系統的簇空間會產生大量的磁盤碎片,將導致文件系統性能隨著時間推移極度。Safe將基于磁盤數據塊的方式引入中,從而有效的解決了大規模數字監控方案中文件的固有問題,當保存的時間超
49、過計劃中設定的留存期后可對原有數據進行依次覆蓋。利用這點,采用塊方式可以很好的規避傳統文件系統工作機制的問題。文檔版本 1.5 (2016-12-08)專有和所有 ©信息技術17VCN3000技術白皮書4VCN 方案4.1.3.6RAID 技術4.1.3.6.1 RAID 快速初始化隨著攝像機的廣泛使用,數據涉及到巨量數據的、和使用,因此一個高效能的系統成為必備的基礎。另外,磁盤技術的演進,硬盤的容量越來越大,成本不斷降低,如何解決大容量磁盤下的 RAID 系統的使用效率及數據可靠性,是傳統技術的一大。Safe創新的設計,即插即用技術完美解決這兩RAID 系統解決方案。題,是大容量磁
50、盤應用條件下非常完美的VCN FS & “ RAID”IP SAN FS & RAIDNAS FS & RAID上圖是 RAID 初始化占時最少排名示意,最簡單可以每個框件為一個層級步驟定義, 可以看到三個方案中 VCN 相當于 4 步,而 IP SAN 需要 5 步,NAS 更是需要 6 步,因此大體可以理解出上圖所示意的初始化速度快慢排名對比。首先, Safe提供了便捷的 web 化配置,可以快速創建、刪除 RAID 組,基于前面章節所說的 NVR 傳統安防業務理念,了復雜的 IT 專業技術背景,一個普通的非技術即可完成系統配置;其次,啟用并配置 RAID 后,優化的快速初始化算法,滿框 108TB 的系統只需 15分鐘即可完成系統初始化,相比于傳統 RAID 技術,可縮短 50 小時以上的系統上線時間。最后,磁盤為機械部件,使用一段時間后會發生故障,在條件下,如果 RAID 組中有多盤故障失效,傳統 RAID 系統中,數據全部丟失,業務恢復需要經專業技術人員完成配置及漫長的初始化時間,Safe進行了技術和業務創新,創造性地將故障 RAID 組調整為降級可讀狀態,繼續提供數據服務,待系統偵測到故障硬盤更換后,采用 Safe的創新算法,自動重建 RAI
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 經編整經機企業ESG實踐與創新戰略研究報告
- 貿易代理服務企業數字化轉型與智慧升級戰略研究報告
- 節能型水泵設備企業數字化轉型與智慧升級戰略研究報告
- 膨潤土無機凝膠企業數字化轉型與智慧升級戰略研究報告
- 望遠鏡玻璃企業數字化轉型與智慧升級戰略研究報告
- 聲控開關企業數字化轉型與智慧升級戰略研究報告
- 壓塑機企業數字化轉型與智慧升級戰略研究報告
- 船舶用發動機企業ESG實踐與創新戰略研究報告
- 縫紉機零部件企業數字化轉型與智慧升級戰略研究報告
- 2025-2030中國復合人工皮膚行業市場發展趨勢與前景展望戰略研究報告
- FUJI-FLEXA編程流程-課件
- 第五章 中國特色社會主義理論體系的形成發展(一)
- 大學生信息安全競賽創新實踐能力賽題庫(附答案)
- 平頂山職業技術學院單招《語文》備考試題庫(含答案)
- 火災事故中的緊急搶救與復蘇技巧
- (中職)ZZ017數字產品檢測與維護賽項規程(師生同賽)(5月10日更新)
- 塔式起重機司機及指揮安全知識教育培訓
- 藥物臨床試驗機構備案信息平臺操作手冊及填報詳情
- 【頸椎病的推拿病例分析及心得體會1700字】
- 語法專題 非謂語動詞重難點分類強化及練習答案 -2022屆高考英語總復習
- 《種樹郭橐駝傳》說課稿 統編版高中語文選擇性必修下冊
評論
0/150
提交評論