1、地震資料處理數據分級存儲集群的建設與應用【摘要】本文分析了河南油田地震資料處理對存儲系統 的需求，根據地震資料處理的數據特點，通過對并行存儲技 術、分級存儲技術的研究，設計并建設分級存儲系統，滿足 地震資料處理中不同應用對存儲性能的不同需求，在存儲容 量、存儲速度和成本之間取得了平衡，建成了高效實用的分 級存儲環境。【關鍵詞】分級存儲；地震資料處理；并行存儲；數據 備份一、建設地震資料處理數據分級存儲系統的必要性隨著勘探難度增加和技術的發展，野外三維高精度采集 的數據量大規模的增長，加之地震資料處理新技術、新方法 的應用，地震資料處理對存儲系統的存儲容量和存儲性能有 了更高的需求，目前河南油田

2、地震資料處理的存儲系統在性 能和容量上還有待提高，但是存儲系統的設計要考慮容量、 速度和成本三個問題。容量是存儲系統的基礎，都希望配置 盡可能大的存儲系統；同時要求存儲系統的讀寫速度能與處 理器的速度相匹配；成本也應該在一個合適的范圍之內。但 這三個目標不可能同時達到最優。一般情況下，存儲設備讀 寫速度越快，平均單位容量的價格越高，存儲容量越小；反 之，存儲設備讀寫速度越慢，平均單位容量的價格越低，存 儲容量越大。分析地震資料處理的數據流特點，我們發現：1、在進行疊前時間偏移、深度偏移、逆時偏移等并行 作業處理時， 數據流表現為高并發 IO 和大聚合帶寬， 需要高 性能存儲系統的支撐。2、在常

3、規處理中的數據流相對平穩， IO 吞吐量相對小， 對帶寬和存儲的性能要求相對較低。3、需要備份的原始數據及成果數據，需要一定數量安 全級別較高的存儲系統進行數據備份。為了在容量、速度和成本這三者之間取得平衡，需要根 據其地震資料處理數據的特點，采用分級存儲為不同的應用 提供不同性能的服務，建成高效實用的并行存儲環境。二、分級存儲方案設計（一）體系架構 地震資料處理數據分級存儲系統采用開放式的存儲體 系架構，基于分布式的 Glusterfs 并行文件系統，將多臺存儲 設備的存儲容量虛擬成一個具有統一訪問接口的存儲空間。 按照一定的負載均衡策略存儲用戶的數據，將數據條帶化的 存儲到多臺物理存儲設備

4、上，從而獲得更高的并發數據訪問 性能，同時可以制定存儲策略進行數據分級存儲，對所有的 存儲設備可以實現統一的管理和監控。分級存儲系統包含管理控制器、索引控制器、數據控制 器和應用服務客戶端四類組件：管理控制器：安裝并行存儲管理軟件，提供統一的控制 管理界面， 實現存儲系統的集中化部署、 管理、監控和維護。索引控制器：內嵌高性能數據索引引擎，管理存儲系統 的所有索引數據和命名空間，實現全局統一命名空間，實現 數據索引的負載均衡和故障冗余。數據控制器：提供數據存儲空間，并實現數據存取的動作。應用服務客戶端：向上層應用提供數據訪問接口。（二）配置方案整個存儲系統包括 2 臺管理控制器、 2 臺索引控

5、制器、22個數據控制器，總容量 1197TB。分為三級存儲結構：一部分為高速存儲，高速為主要特點，由容量較小、價格較貴而性能較高的 SSD固態硬盤構成，為實時提供高性能 的數據 IO 能力；一部分為在線存儲，采用容量較大、價格較便宜而讀寫速度較慢的SAS硬盤構成，支持一般性數據讀寫；一部分為備份存儲，采用容量大，價格低廉，讀寫速度慢的SATA硬盤，創建高安全備份卷，存儲我們的原始、階段 性數據、成果數據和磁帶庫數據備份。三、關鍵技術（一）虛擬化管理平臺 OvirtoVirt 是一個基于 x86 架構上的 KVM 虛擬化技術的開源 云服務平臺。 它在架構設計上由 ovirt-engine 和 o

6、virt-node 兩 部分組成，這種 Node/Engine 分離的結構，方便功能的劃分 與管理。Engine 是系統的管理者，并對外提供管理服務，它掛載 了自己的數據庫，記錄系統中虛擬機的配置，各個存儲節點 的狀態信息， 網絡狀態等。 通過在 Engine 中的設置實現系統 的管理邏輯，狀態及策略控制。本存儲系統通過在管理控制 器上安裝 ovirt-engine 來實現管理功能。Node 只負責功能上的實現， 不進行狀態的記錄和策略的 實現。oVirt里的Node可以由一個普通的 Linux上安裝 VDSM （Virtual Desktop Server Manager ）構成，也可以由一

7、個專為 oVirt 定制的 Linux 系統構成。本存儲系統采用安裝 VDSM 的 方法配置數據控制器作為 node 節點，實現網絡、存儲器、 虛擬機的創建與修改。 VDSM 的功能包括組織數據，實現存 儲集群的數據共享與數據保護，故障恢復。（二） GlusterFS集群文件系統GlusterFS是一個開源的分布式文件系統，具有強大的橫向擴展能力，通過擴展能夠支持數 PB 存儲容量和處理數千 客戶端。GlusterFS通過TCP/IP或者InfiniBand網絡將多個物 理存儲資源匯聚在一起，使用全局統一命名空間來管理數據。GlusterFS可為各種不同的數據負載提供優異的性能。Gluster

8、FS文件系統支持標準的網絡訪問協議，用戶可以使用NFS/CIFS等標準協議訪問數據。GlusterFS使得用戶擺脫 原有的獨立、高成本的封閉存儲系統，利用普通廉價的存儲 設備也可以部署可擁有集中管理、橫向擴展、虛擬化的存儲 系統。四、生產應用地震資料分級存儲系統采用的 Glusterfs 文件系統， 支持 五種邏輯卷，即 Distribute 卷（分布式卷） 、Stripe 卷（條帶 卷）、Replica卷（鏡像卷）、Distribute stripe卷（分布式條帶 卷）和 Distribute replica 卷（分布式鏡像卷） 。分級存儲系統 搭建完成后，根據地震資料處理需要創建邏輯卷，創建分布 式條帶卷來滿足并行處理作業時高并發 IO 和大聚合帶寬數 據流對高性能存儲的需要。創建分布式鏡像卷作為備份存儲 卷來存儲地震資料原始數據和成果數據，滿足數據高安全性 的需要。投入生產運行后，多個處理項目使用了該套存儲系 統進行生產，在項目結束后成果數據直接轉移至備份存儲卷， 回收存儲空間。五、結束語 根據河南油田地震資料處理的數據特點，采用分級存儲系統滿足地震資料處理中不同應用對存儲性能的不同需求， 在存儲容量、存儲速度和成本之間取得了平衡，建成了高效 實用的分級存儲環境。分級存儲系統在存儲性能、功能上滿 足了生產項目的需要