大數據中心機房設計方案_第1頁
大數據中心機房設計方案_第2頁
大數據中心機房設計方案_第3頁
大數據中心機房設計方案_第4頁
大數據中心機房設計方案_第5頁
已閱讀5頁,還剩45頁未讀 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

大數據中心機房設計方案

目錄

第1章方案概述..............................................................1

1.1.建設背景............................................................1

1.2.當前現狀.............................................................1

1.3.建設目標............................................................3

第2章方案設計原則..........................................................4

2.1.設計原則............................................................4

2.2.設計依據............................................................6

第3章數據中心方案架構.........................................................6

3.1數據中心架構設計.......................................................6

3.2大數據處理設計.........................................................12

3.3大數據存儲設計.........................................................17

3.4安全設計...............................................................19

3.5平臺搭建實施步驟......................................................23

3.6物理架構設計...........................................................23

第4章整體架構設計............................................................26

4.1網絡總體架構..........................................................26

4.2XXX公共服務平臺功能設計..............................................27

4.2.1數據中心功能示意圖.............................................27

4.2.2公共服務系統(tǒng)功能示意圖.........................................28

4.2.3電子XXX系統(tǒng)功能示意圖.........................................29

4.2.4電子政務系統(tǒng)功能示意圖.........................................30

4.3XXX公共服務數據流程圖................................................31

4.4防火墻設計.............................................................31

4.5接入層設計.............................................................32

第5章數據中心基礎設施方案組成................................................32

5.1.機柜系統(tǒng)設計........................................................32

5.2.制冷系統(tǒng)設計........................................................34

5.3.供配電系統(tǒng)設計.....................................................38

5.4.模塊監(jiān)控系統(tǒng)設計...................................................41

第6章運維方案................................................................45

6.1.技術和售后服務.....................................................45

6.2.售后服務項目........................................................45

6.3.售后服務項目內容...................................................45

第1章方案概述

1.1.建設背景

自從出現數字化***以來,數據中心作為數字化交易的核心,被各個***系統(tǒng)

廣泛采用。目前隨著***電子化的推廣,客戶市場細分的深入,***產品設計的專

業(yè)化,以及對于***系統(tǒng)安全性的要求。***系統(tǒng)的數據中心需要更強大的運算能

力,更多的存儲空間,更安全可靠的規(guī)劃和設計。不僅如此,***系統(tǒng)相比其他

行業(yè)的數據中心有其自身特有的特點和要求。***行業(yè)數據中心的非常重要的一

點就是安全和可靠。因為哪怕是短時間的網絡癱瘓也會造成非常廣泛和嚴重的后

果。這對***數據中心的資源整合,全面安全,高效管理和業(yè)務連續(xù)性提出更高

的要求。所以***行業(yè)數據中心產品和方案的應用必須采用更高等級的產品和整

體設計方案,以滿足對于系統(tǒng)安全性的要求。

從數據大集中到多業(yè)務整合,***行業(yè)的數據中心建設正圍繞著業(yè)務發(fā)展的

需要迅速展。***基礎設施的建設,很重要的一個環(huán)節(jié)就是***數據中心的建設。

***數據中心工程不僅集建筑、電氣、安裝、網絡等多個專業(yè)技術于一體,更需

要豐富的工程實施和管理經驗。***數據中心設計與施工的優(yōu)劣直接關系到數據

中心內計算機系統(tǒng)是否能穩(wěn)定可靠地運行,是否能保證各類信息通訊暢通無阻。

由于***數據中心的環(huán)境必須滿足計算機等各種數據,以達到反饋信息和處理問

題的功效。特別是要將需要解決電池放電狀態(tài)和旁路運行狀態(tài)的監(jiān)控管理問題等

重要信息發(fā)到主要負責人的手機上,以便能隨時掌握信息,對一些天氣災害停電

而有應急預案。

1.2.當前現狀

隨著業(yè)務的發(fā)展,數據中心的問題與日俱增,數據中心所面臨的壓力和挑戰(zhàn)

也越來越大:業(yè)務的不斷調整和改變讓數據中心總體架構面臨極大的壓力、有限

的物理空間讓數據中心擴展性和靈活性有所限制、虛擬化的欠缺讓數據中心資源

調配能力有限、復雜多變的異構環(huán)境讓數據中心管理效率異常低下、高居不下的

耗電量讓數據中心能源成本迅速上升。這些問題與挑戰(zhàn)讓數據中心管理者迫切需

要對數據中心進行整合和升級。通過有效的整合讓傳統(tǒng)數據中心升級成為一個智

能化、自動化、高效化的數據中心。當前數據中心面臨的問題:

?可靠性問題

供電可靠性是數據中心安全性的重要保障,隨著以信息技術為支撐的新業(yè)務

的不斷涌現,***行業(yè)數據中心對供電可靠性的要求大大提升。在數據中心領域,

動力平臺的可用性指標分別高于數據中心的可用性指標和整個網絡系統(tǒng)的可用

性指標,因此,對動力平臺的關注理應放到最核心的位置。比如服務器電源的冗

余方式發(fā)生了變化,供電系統(tǒng)就應當做出相應改變。刀片服務器以及虛擬化的應

用,使高熱密度問題凸顯,數據中心環(huán)境更加惡劣,制冷模式就也需要做出改變。

?節(jié)能降耗問題

數據中心建設的加速,導致的最直接后果就是能源消耗量的急劇攀升。在當

前全球能源緊張的大背景下,節(jié)能降耗是整個數據中心行業(yè)的大趨勢。對于企業(yè)

本身而言,能耗的急劇增長大大提升了數據中心的運行成本,數據中心的節(jié)能和

能效改善已成為整個行業(yè)的迫切要求。

?管理與維護問題

數據中心是一個龐大而復雜的系統(tǒng),這些系統(tǒng)是一個有機的整體,牽一發(fā)而

動全身,數據中心可靠性的發(fā)揮有賴于每個設備的正常運行,有賴于這些設備的

協(xié)調一致,任何一個環(huán)節(jié)出現故障,都有可能造成巨大損失。因此,對整個系統(tǒng)

的管理越來越重要,而難度也越來越大。

?擴容問題

隨著業(yè)務量的不斷擴大,***行業(yè)IT應用系統(tǒng)日益增長,服務器規(guī)模變得日

益龐大,帶來了高能耗、數據中心空間緊張、IT預算緊張等問題。同時,數據

中心動力平臺的匹配性卻不夠,要么利用率低,資源浪費嚴重;要么供電與制冷

明顯不足,影響數據中心可用性。簡言之,動力系統(tǒng)對核心設備供電或者制冷需

求的反映不夠靈敏。

針對上述問題,技術有限公司推出了創(chuàng)新型的數據中心解決方案。該解決方

案具有高可用性、高節(jié)能性、高靈活性、高可維護性等四大特點,能夠幫助***

行業(yè)客戶解決數據中心建設與應用的難題,滿足***企業(yè)在信息化過程中對數據

中心動力安全、節(jié)能環(huán)保等方面日益增長的應用需求。

1.3.建設目標

XXX大數據中心項目的總體建設目標是:綜合運用云計算、大數據、移動互

聯(lián)等新技術,高起點、高水平建設覆蓋全、功能齊全、國內一流的公益性、綜合

性XXX公共服務平臺。

數據中心建設應達成以下目標:

高可用--數據中心的高可用直接影響到業(yè)務系統(tǒng)的可用性,高可用至少包

括高可靠、高安全和先進性三個方面:

?高可靠:應采用高可靠的產品和技術,充分考慮系統(tǒng)的應變能力、容錯

能力和糾錯能力,確保整個基礎設施運行穩(wěn)定、可靠。當今,關鍵業(yè)務

應用的可用性與性能要求比任何時候都更為重要。

?高安全:基礎設計的安全性,涉及到核心數據安全。應按照端到端訪問

安全、網絡分層安全兩個維度對安全體系進行設計規(guī)劃,采用軟硬件安

全設備,從局部安全、全局安全到智能安全,將安全理念滲透到整個數

據中心網絡中。

?先進性:數據中心將長期支撐企業(yè)的業(yè)務發(fā)展,數據中心建設需要考慮

后續(xù)的機會成本,采用主流的、先進的技術和產品,建立高性能,大容

量存儲的數據中心。

?易擴展--隨著信息化的發(fā)展,企業(yè)內通信網絡的建立和全面覆蓋,未來

的業(yè)務范圍會更多更廣,業(yè)務系調整與擴展再所難免,因此數據中心必

須能夠適應業(yè)務系統(tǒng)的頻繁調整,同時在性能上應至少能夠滿足未來

5?10年的業(yè)務發(fā)展。對于設備的選擇和協(xié)議的部署,應遵循業(yè)界標準,

保證良好的互通性和互操作性,支持業(yè)務的快速部署。

?易管理--數據中心是IT技術最為密集的地方,數據中心的設備繁多,

各種協(xié)議和應用部署越來越復雜,對運維人員的要求也越來越高,單獨

依賴運維人員個人的技術能力和業(yè)務能力是無法保證業(yè)務運行的持續(xù)性

的。因此數據中心需要提供完善的運維管理平臺,對數據中心IT資源進

行全局掌控,減少日常的運維的人為故障。同時一旦出現故障,能夠借

助工具直觀、快速定位。

第2章方案設計原則

2.1.設計原則

根據“先進、實用、穩(wěn)定、可靠”的總原則,對云數據中心軟硬件系統(tǒng)進行

科學合理的設計,保證中心建設的勝利完成。

數據中心工程是智能弱電工程的重要組成部分。其基本要求可歸納為:保證

系統(tǒng)運行的可靠性、保證系統(tǒng)的設計壽命、保證信息安全的要求、保證操作人員

的工作環(huán)境。

設計一個好的數據中心,要以兼顧人機并重之原則,一個合格的現代化計算

機數據中心,應該是一個安全可靠、舒適實用、節(jié)能高效和具有可擴充性的數據

中心,設計應以運行條件、安全可靠作為首要的考慮因素。因此對數據中心建設

要求遵循以下設計原則:

(一)統(tǒng)籌規(guī)劃,科學設計。

從XXX發(fā)展的大局和長遠角度出發(fā),遵循國家有關信息化標準和規(guī)范,用

科學的理論和系統(tǒng)的方法統(tǒng)一規(guī)劃,建設國內一流、功能完備的綜合XXX公共

服務平臺。

(二)突出重點,分步實施。

統(tǒng)一科學規(guī)劃實施,既要統(tǒng)一考慮整體目標的實現,又要圍繞XXX主要職

能和重點工作,優(yōu)先開發(fā)建設最急需,最主要的平臺,最終實現項目預期收益

目標。

(三)整合資源,集約建設。

xxx網站升級改造項目的建設過程中,要充分考慮現有政務信息網絡資

源,統(tǒng)籌利用現有各類資源,完善已有功能,降低系統(tǒng)建設成本,開發(fā)建設新

的應用系統(tǒng)。

(四)加快推進,務求實效。

集中骨干力量、明確時間節(jié)點,力求早建成、早應用、早見效。

(五)立足當前,著眼長遠。

在充分滿足當前需求的基礎上,為今后縱向和橫向功能拓展預留空間。

(六)安全性和可靠性

平臺應遵循客戶最小授權原則、全面確認原則和安全跟蹤原則,并采用嚴

密的安全體系,保證數據的安全性,應能保證7*24小時持續(xù)、穩(wěn)定、安全地運

行。首先,重要數據應能及時備份和恢復;其次,關鍵操作可以進行回退;第

三,對緊急情況應該有相應的應急處理措施;第四,應該滿足峰值業(yè)務量處理

的需要。

(七)先進性和標準性

平臺應遵循行業(yè)標準,參照國際、國家相關行業(yè)標準,形成統(tǒng)一的編碼規(guī)

則和接口規(guī)范。在軟、硬件系統(tǒng)選擇上,要符合國際、國內標準的硬件和軟件

技術規(guī)范,并擁有優(yōu)良性價比的設備。

(八)易用性和可維護性

平臺應具有友好的人機界面、便捷的輸入方式、智能的數據輸入提示、及

時的數據合法性檢查、詳細的常見錯誤修改說明、可配置不同數據參數的報表

及可支持多種語言。同時,系統(tǒng)設計應遵循軟件工程思想,采用層次化、模塊

化、組件化的設計,做到層次清晰,可以方便地對系統(tǒng)進行升級。

(九)實用性

設計上充分考慮當前各業(yè)務層次、各環(huán)節(jié)管理中數據處理的便利和可行,

把滿足用戶業(yè)務管理作為第一要素進行考慮;采取總體設計、分步實施的技術

方案,在總體設計的前提下,系統(tǒng)實施時先進行業(yè)務處理層及低層管理,穩(wěn)步

向中高層管理及全面自動化過渡,使系統(tǒng)始終與業(yè)務實際需求緊密連在一起,

不但增加了系統(tǒng)的實用性,而且可使系統(tǒng)建設保持很好的連貫性;全部人機操

作設計均充分考慮不同使用者的實際需要;用戶接口及界面設計充分考慮人體

結構特征及視覺特征進行優(yōu)化設計,界面盡可能美觀大方,操作簡便實用;所

有子系統(tǒng)的建設都要符合XXX的實際業(yè)務需求,必選做到上線每一個功能都是

有用的。

(十)增強決策支持能力

系統(tǒng)應能夠滿足今后業(yè)務戰(zhàn)略決策支持的需求,增強速遞戰(zhàn)略決策和管理

能力。并通過統(tǒng)一的操作流程、統(tǒng)一的監(jiān)管標準和統(tǒng)一的管理規(guī)范,來提高業(yè)

務管理與監(jiān)管水平,實現業(yè)務資源全面統(tǒng)一的管理。

(十一)優(yōu)先采用國產軟件產品和服務

《鼓勵軟件產業(yè)和集成電路產業(yè)發(fā)展的若干政策》中規(guī)定:國家投資的重大

工程和重點應用系統(tǒng),優(yōu)先由國內企業(yè)承擔,在同等性能價格比條件下優(yōu)先采用

國產軟件系統(tǒng)。

2.2.設計依據

《電子計算機數據中心設計規(guī)范》GB50174-93

《計算機場地技術條件》GB2287-89

《計算機場地安全要求》GB9361-88

《計算機機房活動地板技術條件》GB6650-86

《建筑物防雷設計規(guī)范》GB50057-94

《高層民用建筑設計防火規(guī)范》GBJ45

《電子計算機機房施工及驗收規(guī)范》SJ/T30003-93

《建筑防火設計規(guī)范》GB5004-95

《空調與通風工程施工及驗收規(guī)范》GB50243-97

《建筑與建筑群綜合布線系統(tǒng)工程設計規(guī)范》GB/T50311-2000

《建筑與建筑群綜合布線系統(tǒng)工程驗收規(guī)范》GB/T50312-2000

《中華人民共和國通信行業(yè)標準》YD-T9261、2、3

《國際綜合布線標準》TIA/EIA568-B

《供配電系統(tǒng)設計規(guī)范》GB50052-92

《火災自動報警系統(tǒng)設計規(guī)范》GBJ116-98

《工業(yè)企業(yè)通信接地設計規(guī)范》GBJ79-85

《高性能屏蔽室屏蔽效能的測量方法》GB12190

第3章數據中心方案架構

3.1數據中心架構設計

XXX大數據中心項目要完成以下建設任務:

(一)一個機房:在XXX建設一個標準化B類機房,實現機房供電、空調、

消防、管理的標準化和智能化。該機房需要承載XXX公共服務平臺和現有信息化

系統(tǒng)的運行。

(二)五個部分:XXX大數據中心項目要完成五個部分的建設任務,包括數據

中心、公共服務系統(tǒng)、電子XXX系統(tǒng)、電子政務系統(tǒng)、XXX局域網改造。

(三)四大功能:xxx大數據中心項目XXX公共服務平臺要實現海關、內貿、

電子XXX、區(qū)域經濟等XXX數據中心功能;包含信息展示服務、在線辦事、企業(yè)

服務、投訴咨詢、海外勞務等部分的公共服務功能;包含展覽展示、企業(yè)企業(yè)產

品(服務)視頻搜索、電子XXX信息報送等部分的電子XXX功能;包含遠程辦公、

移動辦公、公文傳遞等電子政務功能。

(四)局域網改造:對XXX局域網進行改造升級,提升電子政務工作效率。

云計算數據中心通過運行在單獨的服務器上的云操作系統(tǒng)對服務器、存儲、

網絡等資源進行虛擬化管理,提供可以自定義的虛擬機,在虛擬機上安裝Hadoop、

hbase等Nosql分布式數據庫集群,對現有的數據ETL采集、清洗、轉換、匯總

進來,使用海量數據分布存儲技術,用spark、storm等大數據處理軟件對hbase

中的數據進行分析處理,挖掘數據價值。還可以在虛擬機上運行業(yè)務應用系統(tǒng),

提供負載均衡和冗余備份,達到系統(tǒng)的穩(wěn)定、高可用和方便的擴展性。

通過安裝SSR等安全軟件和安全服務器,可以保證提升操作系統(tǒng)的安全級別,

從而達到國家等級保護的三級要求,為客戶構建真正的安全長城。

云計算數據中心可以自動管理和動態(tài)分配、部署、配置、重新配置以及回收

資源,也可以自動安裝軟件和應用,具有良好的彈性和靈活性,管理、使用方便。

云中心可以向用戶提供虛擬基礎架構。用戶可以自己定義虛擬基礎架構的構成,

如服務器配置、數量,存儲類型和大小等等。用戶通過自服務界面提交請求,每

個請求的生命周期由平臺維護。

服務器虛擬化系統(tǒng)基于服務器,存儲和網絡設備構建資源池,在資源池上通

過資源的管理、調度和鏡像管理實現系統(tǒng)的各種高級功能,例如計算層面的系統(tǒng)

負載均衡和虛擬機高可用,存儲層面的鏡像復制和冗余。系統(tǒng)支持以主機或者虛

擬群集為單位管理資源,虛擬群集為一組共享存儲資源的物理主機。

云中心既是一個企業(yè)云,也可以對外提供服務,擴展成公有云。學校還可以

使用別的公有云如阿里云,形成混合云。

云業(yè)務

____________________云計算服務平臺_____________________

云計算麻身生4rli期低,HVffS|iJHPIW

基礎服務

齡拄&巖警部*£8扁份&恢雙安全&審計

虛擬化奧源池|

物理

基礎架構毋不崇國手

離W機架即傷胃刀片系極存儲系摟網珞系統(tǒng)安仝系段

云中心包括iaas、paas^saas三層服務:

1).SaaS:提供給客戶的服務是運營商運行在云計算基礎設施上的應用程序,

用戶可以在各種設備上通過客戶端界面訪問,如瀏覽器。消費者不需要管理或控

制任何云計算基礎設施,包括網絡、服務器、操作系統(tǒng)、存儲等等;

2).PaaS:提供給消費者的服務是把客戶采用提供的開發(fā)語言和工具(例如

Java,python,.Net等)開發(fā)的或收購的應用程序部署到供應商的云計算基礎

設施上去。客戶不需要管理或控制底層的云基礎設施,包括網絡、服務器、操作

系統(tǒng)、存儲等,但客戶能控制部署的應用程序,也可能控制運行應用程序的托管

環(huán)境配置;可以使用docker容器完成應用系統(tǒng)的部署和管理。

3).IaaS:提供給消費者的服務是對所有計算基礎設施的利用,包括處理CPU、

內存、存儲、網絡和其它基本的計算資源,用戶能夠部署和運行任意軟件,包括

操作系統(tǒng)和應用程序。消費者不管理或控制任何云計算基礎設施,但能控制操作

系統(tǒng)的選擇、存儲空間、部署的應用,也有可能獲得有限制的網絡組件(例如路

由器、,防火墻,、負載均衡器等)的控制。

云中心采用xen、kvm、VMware進行虛擬化,LXC提供Linux容器,支持docker

應用容器。

安全保,體系戚務保,體系

一.服務器采用浪潮整機柜服務器SmartRack,面向海量數據的存儲和處理,

適合云資源池如虛擬化、分布式存儲,大數據處理如Hadoop集群等應用,目前

在國內服務器中占主導地位,特點如下:

定位多種應用,支持各類服務器節(jié)點。

針對不同業(yè)務對存儲、計算、10吞吐量、功耗的不同要求,設計開發(fā)出不同

種類的服務器節(jié)點,包括:1U全寬雙路12盤位綜合型節(jié)點、1U全寬單路18盤

位冷存儲節(jié)點、1U半寬雙路計算型節(jié)點,滿足不同需求。

整機柜集中供電、集中散熱,相比其他架構服務器,運行功耗降低10%以上。

整機柜由一組電源模塊集中供電,最大輸出功率高達22.5kw,直接支持交

流或高壓直流供電,各節(jié)點通過銅排從電源模塊取電,結合電源負載動態(tài)調整技

術,電源轉換效率高達94%以上。

機柜背部風扇墻集中散熱,根據節(jié)點數量靈活調節(jié)風扇墻高度,采用140mm

大尺寸風扇,相同功耗下可提供更大散熱量。

領先的架構設計,保障系統(tǒng)高可靠運行。

服務器節(jié)點中無獨立的電源和風扇,有效降低單點故障。

根據整機柜實際負載情況,電源可實現N+N/N+2/N+1多種冗余方式。

風扇可根據溫度狀況自動調節(jié)轉速,支持2+1冗余。

對整機柜節(jié)點、電源、風扇進行集中監(jiān)控管理。

實現管理中心RMC對整個機柜各模塊的統(tǒng)一監(jiān)控和管理,節(jié)點、電源、風扇

的健康狀況、溫度、配置信息一目了然,還可進行批量開關機、重啟,功耗控制,

風扇轉速自動/手動調節(jié)等功能,搭配專為SmartRack設計的可視化管理軟件,

輕松實現簡易化智能管理。

簡易維護,無需繁瑣拆裝。

獨有節(jié)點前維護設計、各模組免工具熱插拔設計、優(yōu)化的線纜走線設計,使

得系統(tǒng)運維難度大大降低。風扇等易損部件全部裸露在外,更加方便更換維護。

二.云操作系統(tǒng)建議采用浪潮云海?云數據中心操作系統(tǒng)V3.0,此系統(tǒng)秉承

開放化、模塊化、標準化的設計理念,基于虛擬化技術,實現了數據中心資源融

合、資源管理及服務交付,簡化了云數據中心運維,提高了云數據中心服務水平。

云海?云數據中心操作系統(tǒng)有以下特點:

自主可控、安全可靠的云數據中心操作系統(tǒng):

浪潮自主研發(fā)的國產云數據中心操作系統(tǒng),加強了WEB安全、虛擬化安全、

數據安全、訪問控制、安全審計等方面的安全控制,可幫助用戶構建安全可控的

云數據中心。

異構資源管理:

云海OS支持對數據中心各類異構硬件設備及軟件資源的統(tǒng)一管理;支持對

VMWarevSphere、InspuriVirtual等異構虛擬化資源池的集中管理,已部署的

虛擬化環(huán)境可被云海OS無縫接管;

精細的軟硬件資源監(jiān)控:

云海OS支持對數據中心主流廠商的服務器、網絡設備、存儲設備等物理資

源,操作系統(tǒng)、數據庫、WEB應用等軟件資源,VMWarevSphere,InspuriVirtual

等虛擬化環(huán)境的精細監(jiān)控,提供界面、郵件、短信等多種告警方式,通過詳盡清

晰的報表分析數據,幫助數據中心的運維人員隨時掌握數據中心的各類資源的運

行狀況,降低運維管理復雜度,提高運維效率。

快速的服務交付:

云海OS支持通過虛擬機模板、應用服務模板的方式,實現業(yè)務的快速交付,

業(yè)務上線時間由原來的幾周、幾天,縮短為幾分鐘,大大提高數據中心的服務水

平。

資源使用按量計費:

實時的資源使用情況統(tǒng)計,讓用戶精確掌控自身資源和費用使用情況,幫

助IT部門實現由成本中心向價值中心的角色轉變。

資源按需服務:

云海OS可實現將基礎架構作為服務交付,用戶可通過自助服務門戶在線申

請及訪問自己的虛擬數據中心、應用服務、虛擬機等資源,實現資源的按需申請、

便捷獲取、自助使用。

可定制的業(yè)務流程:

云海OS支持用戶創(chuàng)建與原工作流程吻合的資源申請的審批流程,實現業(yè)務

流程的個性化、可定制化。

靈活的服務交付方式:

云海OS既支持從下到上的資源申請與審批,也支持從上到下的資源創(chuàng)建與

分配的服務交付方式,可滿足不同客戶對資源獲取方式的不同需要。

多租戶私有云:

云海OS可創(chuàng)建多個組織,一個組織可代表某業(yè)務部門、分部或子公司。每

個組織都有各自獨立的虛擬數據中心、用戶及獨有的目錄,可將組織資源分配給

本組織的用戶,每個組織如同擁有自己的數據中心。利用基于權限的用戶控制機

制和基于虛擬交換機的網絡隔離技術,實現多租戶環(huán)境下的安全性和可靠性,以

此構建安全的多租戶私有云。

靈活可控的權限管理:

云海OS支持用戶自定義角色類型,不同的權限可自由組合,實現靈活可控

的系統(tǒng)權限管理。

服務全生命周期管理:

云海OS涵蓋服務提供所需的各個環(huán)節(jié),包括服務的申請審批;服務的交付

和回收;服務的使用統(tǒng)計和計費;服務的運行監(jiān)控

服務移動性:

通過vApp封裝多個虛擬機服務和相關的網絡連接策略,遵循OVF等開放式

標準,實現同一個云環(huán)境的終端用戶彼此之間可以輕松共享服務,而不同的云環(huán)

境的用戶可以輕松的在云之間遷移服務。

3.2大數據處理設計

通過在虛擬機上安裝Hadoop2.6、hbasel.0等Nosql數據庫集群,用

sqoopl.3把現有的數據匯總進來,要對現有數據做個總的分析,對字段統(tǒng)一定

義規(guī)劃,制定轉換策略,做到正確性、唯一性、可用性,去除重復字段,通過ETL

抽取、清洗數據,把數據導入hbase,這樣就可以消除信息孤島,用spark、storm

等大數據處理軟件對hbase中的數據進行分析處理,挖掘數據價值。

云中心通過調度系統(tǒng)自動采集、加工、存儲數據,為應用系統(tǒng)提供支持:

應用模式

執(zhí)行

存《過程

用I

“豁吸)?[(MapRe"

設計

作蚓

—.hadoop2架構體系

下圖是hadoop2的架構圖

Fo

AoNr-PIGHive

mAnahScriptQuery

beme

alr

roae

tHwYHCatalog

Zt5-B

oAenooAMetadataServices

ovaarR

ker-sk

DN

eCPaesMapReduce

eart

psaDistributedProcessing

wsob

aja

enes

9_dce

arstYARN

o-ResourceSchedulingandNegotiation

zo

9-

HDFS

DistnbutedStorage

1.HDFS文件系統(tǒng),Hadoop實現了一個分布式文件系統(tǒng)(HadoopDistributed

FileSystem),簡稱HDFS。HDFS有高容錯性的特點,并且設計用來部署在低廉

的(low-cost)硬件上;而且它提供高吞吐量(highthroughput)來訪問應用

程序的數據,適合那些有著超大數據集(largedataset)的應用程序。HDFS放

寬了(relax)P0SIX的要求,可以以流的形式訪問(streamingaccess)文件系

統(tǒng)中的數據。

2、YARN是一套資源統(tǒng)一管理和調度平臺,可管理各種計算框架,包括

MapReduce,Spark,MPI等。包括以下內容:ResourceManager(RM):整個系

統(tǒng)只有一個RM,它就只管調度方面的事情,并且為集群應用而優(yōu)化,因而具有很

好的性能。RM的一個核心是它的Scheduler。調度包含兩個過程,一要搜集各節(jié)

點的情況;二要根據某種調度策略,分配合適的節(jié)點。搜集節(jié)點情況是基于一個

資源容器(resourcecontainer)的概念,該容器包括cpu,disk,network等(目

前只用到cpu)

NodeManager(NM):NM是每個節(jié)點一個實例,管理每個節(jié)點,它觸發(fā)應用容

器(applicationcontainer),監(jiān)控節(jié)點的資源(cpu/disk等),并向RM報告

資源的情況。

ApplicationMaster(AM):AM是每個應用一個實例,它是一個特定的框架接

口庫,一方面與RM中的Scheduler協(xié)商得到resourcecontainer,另一方面與

NM一起執(zhí)行和監(jiān)控各子任務部件,從系統(tǒng)的角度,AM本身也一種container(下

圖中將它與container畫得一樣)。

Container:從邏輯上,container可認為是資源的分配容器,它包括hostname,

cpu,memory等屬性。AM發(fā)送ResourceRequest給RM,然后RM分配合適的

Container給AM,AM再將此Container提交給它所在節(jié)點的NM,NM采用此資源

容器運行任務。實際上,Container是一種使用資源的“授權”,AM得到此授權

后,在NM的管理下,可以運行任何進程(包括非Java應用,這一點與1.0不

同)。

二、Hive是基于Hadoop的一個數據倉庫工具,處理能力強而且成本低廉。

主要特點:

存儲方式是將結構化的數據文件映射為一張數據庫表。提供類SQL語言,實

現完整的SQL查詢功能。可以將SQL語句轉換為MapReduce任務運行,十分適合

數據倉庫的統(tǒng)計分析。

三、HBase

HBase是一個分布式的、面向列的開源數據庫,它不同于一般的關系數據庫,

是一個適合于非結構化數據存儲的數據庫。另一個不同的是HBase基于列的而

不是基于行的模式。HBase使用和BigTable非常相同的數據模型。用戶存儲數

據行在一個表里。一個數據行擁有一個可選擇的鍵和任意數量的列,一個或多個

列組成一個ColumnFamily,一個Fmaily下的列位于一個HFile中,易于緩存數

據。表是疏松的存儲的,因此用戶可以給行定義各種不同的列。在HBase中數

據按主鍵排序,同時表按主鍵劃分為多個HRegion,如下圖所示(HBase數據表

結構圖):

ColumnFamily?1ColumnFamilytn

key"kcyA-vo11,t1

key1-vfil2.t2k”A:val2.t2

k”2:YahJ2k”B:va〃J2

key2:Ysl2.MkeyB-va12,t4

sorted

keyn-valn.tnkeym:valn.tn

Columnfamily

rowkeycontents:anchor:language*

co/n.www<html>M<html>(H)*?nchor:cnn$I.COfn.CNN〃〃?

■???????????,?’.

<html>bb<html>(t2)fnnch0r:my.lock.c^.CNN.com(H)

aMhor:J”aco.H.jaa.MH)

ColumnFamlly:ColumnKey.ColumnValue(Tlmestamp)

四.Sqoop是一款開源的工具,主要用于在HADOOP(Hive)與傳統(tǒng)的數據庫

(mysqhoracle...)間進行數據的傳遞,可以將一個關系型數據庫(例如:

MySQL.Oracle,Postgres等)中的數據導進到Hadoop的HDFS中,也可以將

HDFS的數據導進到關系型數據庫中。

五.spark架構體系

Spark與Hadoop的對比

?Spark的中間數據放到內存中,對于迭代運算效率更高。

Spark更適合于迭代運算比較多的ML和DM運算。因為在Spark里面,

有RDD的抽象概念。

?Spark比Hadoop更通用。

Spark提供的數據集操作類型有很多種,不像Hadoop只提供了Map和

Reduce兩種操作。比如map,filter,flatMap,sample,groupByKey,

reduceByKey,union,join,cogroup,mapValues,sort,partionBy等多種操

作類型,Spark把這些操作稱為Transformationso同時還提供Count,collect,

reduce,lookup,save等多種actions操作。Spark的mllib支持機器學習。

這些多種多樣的數據集操作類型,給給開發(fā)上層應用的用戶提供了方便。

各個處理節(jié)點之間的通信模型不再像Hadoop那樣就是唯一的DataShuffle—

種模式。用戶可以命名,物化,控制中間結果的存儲、分區(qū)等。可以說編程模型

比Hadoop更靈活。

不過由于RDD的特性,Spark不適用那種異步細粒度更新狀態(tài)的應用,

例如web服務的存儲或者是增量的web爬蟲和索引。就是對于那種增量修改的應

用模型不適合。

?容錯性。

在分布式數據集計算時通過checkpoint來實現容錯,而checkpoint有

兩種方式,一個是checkpointdata,一個是loggingtheupdateso用戶可以

控制采用哪種方式來實現容錯。

?可用性。

Spark通過提供豐富的Scala,Java,PythonAPI及交互式Shell來提

高可用性。

Spark與Hadoop的結合

?Spark可以直接對HDFS進行數據的讀寫,同樣支持SparkonYARNO

Spark可以與MapReduce運行于同集群中,共享存儲資源與計算,數據倉庫Shark

實現上借用Hive,幾乎與Hive完全兼容。

Spark的適用場景

?Spark是基于內存的迭代計算框架,適用于需要多次操作特定數據集

的應用場合。需要反復操作的次數越多,所需讀取的數據量越大,受益越大,數

據量小但是計算密集度較大的場合,受益就相對較小

?由于RDD的特性,Spark不適用那種異步細粒度更新狀態(tài)的應用,例

如web服務的存儲或者是增量的web爬蟲和索引。就是對于那種增量修改的應用

模型不適合。

?總的來說Spark的適用面比較廣泛且比較通用。

3.3大數據存儲設計

采用浪潮AS13000存儲大數據,支持容量、性能的在線無限擴展,提供軟

硬件故障情況下的數據重建、遠程容災功能,是適用于云計算、大數據業(yè)務并

兼具高性能、高可靠、高可擴展、大容量特征的新一代存儲系統(tǒng)平臺,具有以

下特點:。

海量存儲,在線橫向擴展:

1.控制器集群體系架構,所有控制器并行承擔數據10、保障系統(tǒng)整體負載

均衡,數據分散存儲,避免單控制器故障帶來的風險和性能的瓶頸,支持控制

器在線橫向擴展,滿足持續(xù)增長的容量和性能需求。

2.支持NAS/Object/IP-SAN/IB-SAN存儲接口,并且支持SAN、NAS、

Object同時運行,滿足客戶在不同時間、不同地點、不同業(yè)務對存儲的不同需

求,支持Windows、Linux、Unix等多種操作系統(tǒng)并存的復雜網絡環(huán)境中,輕松

實現跨操作系統(tǒng)的數據存儲與共享,另外支持NFS/CIFS/FTP等多種文件共享協(xié)

議。

3.支持豐富的主機連接接口,支持1Gb/10GbiSCSI、40Gb/56Gb

InfiniBand主機連接,無縫接入用戶現有環(huán)境,滿足客戶對高帶寬及高性能的

差異化需求。

4.全面支持Flash/SSD/SAS/SATA各類常見存儲介質,模塊化的容量擴展

模式,支持數據分級存儲,滿足各類型應用。

數據持續(xù)保護,業(yè)務運行無憂:

L支持數據卷隔離映射功能、數據快照功能、快照回滾、遠程卷復制(同

步/異步)、遠程數據復制及恢復、邏輯分區(qū)動態(tài)擴容。

2.支持數據副本、數據糾刪碼、自動分層等多種數據冗余保護和性能加速

功能,為用戶提供高級別的數據保護及容災功能。

3.支持全集群Active-Active、Active-Standby,全局熱備等控制器工作

模式,保障整體系統(tǒng)的高可用,確保數據存取及業(yè)務運行萬無一失。

4.支持軟硬件故障時的數據自動修復,系統(tǒng)可用性達到99.999%o

模塊化設計,人性化管理

LAS13000各主要部件均采用模塊化設計,客戶按需選擇,維護、升級、

管理簡單方便:

2.支持數據副本、全局熱備,以及自動構建RAID、各RAID級別間執(zhí)行在

線迂移不影響正常數據應用

3.完備監(jiān)控管理方式,當系統(tǒng)出現異常時,除了通過機器指示燈報警外,

可通過郵件等方式將異常狀況及時通知管理員

4.集中部署,統(tǒng)一管理

綠色節(jié)能:

1).全系統(tǒng)選取節(jié)能降耗的處理器、芯片組、風扇和散熱片等部件,提高

系統(tǒng)的能效利用率。

2).支持在線擴容/縮減時數據自動遷移,確保系統(tǒng)按需配置,同時支持

Maid磁盤節(jié)能技術,降低磁盤能耗,節(jié)約開支。

3).支持自動精簡技術,大大提高存儲資源利用率。

3.4安全設計

一.采用浪潮SSR主機安全增強系統(tǒng),這是一款基于操作系統(tǒng)內核層開發(fā)的安

全加固軟件。與傳統(tǒng)的防火墻、IDS/IPS不同,SSR工作在最貼近用戶數據的操

作系統(tǒng)層面,不僅可以避免外部的黑客攻擊,同樣可以預防來自內網攻擊的風

險。該產品彌補了傳統(tǒng)信息安全解決方案在主機層安全的“短板”,與傳統(tǒng)信

息安全產品形成了良好的互補,提升操作系統(tǒng)的安全級別,從而達到國家等級

保護的三級要求。為客戶構建真正的安全長城。

功能特性:

1、強制訪問控制

在操作系統(tǒng)內核層實現文件、注冊表、進程、服務、網絡等對象的強制訪

問控制,可配置針對以上對象不同的訪問策略來保護系統(tǒng)和應用資源,即使是

系統(tǒng)管理員也不能破壞被保護的資源。

2、完整性檢測

對文件和服務進行完整性檢測,并可設置定期檢測項目,當發(fā)現文件或者

服務篡改時進行報警并發(fā)現哪些文件發(fā)生改變。

3、防格式化

保護功能開啟時,可防止病毒和入侵者惡意格式化磁盤,同時降低管理員

意外格式化磁盤的風險。

系統(tǒng)資源監(jiān)控與報警:

對系統(tǒng)的CPU、內存、磁盤、網絡資源進行監(jiān)控,當這些資源的使用狀況

超過設置的閥值時將進行報警,以提前發(fā)現資源不足、濫用等問題。

4、雙因子認證和組合式密碼認證

不僅提供SSR安全管理員和SSR審計官員的USBKEY+密碼的雙因子認證功

能,還可對系統(tǒng)用戶配發(fā)USBKEY實現雙因子認證。對于遠程登陸和虛擬化系

統(tǒng)而無法識別USBKEY的服務器,SSR提供可配置兩個密碼組合的登陸認證方

式,只有掌握密碼的兩個人同時存在才能登陸系統(tǒng),以此確保自然人的可信。

5、自我保護

SSR采用內核密封技術和完整性保護技術來保證SSR的文件不被惡意篡

改,進程不被惡意注入。

6、統(tǒng)一管理

在一個SSR控制臺可以同時對多個平臺的SSR進行管理和維護,且SSR可

開放接口給第三方管理平臺集成,實現與不同產品間管理的融合。

7、靈活多樣的策略模板

提供經過驗證的分等級的安全策略模板,全面保護系統(tǒng),方便易用,降低

用戶的使用難度。

8、維護模式

當用戶擔心自己配置的策略是否會影響系統(tǒng)和應用時,可開啟此功能,此

時SSR將只記錄違規(guī)的日志而不進行阻止,便于管理員在不造成業(yè)務中斷的情

況下調整策略。

功能亮點:

1、免疫病毒木馬,抵御黑客攻擊

SSR采用的ROST技術對系統(tǒng)中的文件、注冊表、進程、網絡、服務、帳戶

等多方面進行防護構建立體防護體系,從文件創(chuàng)建、執(zhí)行、訪問資源到結束層

層把關,從根本上免疫各種已知未知病毒、后門等惡意代碼,抵御黑客的攻

擊,確保系統(tǒng)和應用安全穩(wěn)定運行。

2、降低“零日漏洞”風險,延遲漏洞修復

SSR采用強制訪問控制和白名單機制,只允許可信的帳戶和進程訪問被保

護資源,并對操作系統(tǒng)中重要二進制文件進行完整性保護。即使惡意代碼利用

漏洞獲取了系統(tǒng)的權限,也不能破壞系統(tǒng)文件和植入木馬,降低了從“零日漏

洞”發(fā)現到用戶打上補丁之間這段“真空期”的安全風險,同時允許用戶延遲

補丁部署,推遲到定期修補周期進行修補。

3、分權管理,有效規(guī)避“一權獨大”

SSR采用了分權管理的機制,規(guī)避了原操作系統(tǒng)管理員“一權獨大”的風

險,將原系統(tǒng)管理員權限分散為系統(tǒng)操作員、安全管理員和審計管理員,三個

權限各司其職,相互制約,實現了最小權限,不僅保證了系統(tǒng)安全性,同時貼

合了國家相關信息安全標準規(guī)范。

4、提升系統(tǒng)安全級別,增強用戶合規(guī)體驗

SSR在操作系統(tǒng)內核層實現了安全標記和強制訪問控制機制,與用戶系統(tǒng)

自身的自主訪問控制相融合,為系統(tǒng)和用戶重要應用提供更強的約束和更高的

安全控制級別,同時提供三權分立、完整性校驗、雙因素認證、剩余信息保護

等緊貼信息安全標準的功能,幫助用戶在系統(tǒng)安全建設時的合規(guī)要求。

5、統(tǒng)一管理機制,化繁為簡

管理員可以從任何地方通過雙因子身份認證后,對所有被保護的服務器進行安

全策略制定和維護,實現集中管理,減少日常維護工作量。

二.采用浪潮SSA安全應用交付硬件系統(tǒng),特點是:

1.豐富的應用負載均衡功能,保障數據中心應用可用性。

支持豐富的四到七層應用負載均衡功能;

支持針對多種算法的全局負載均衡;

支持針對不同運營商多鏈路的負載均衡;

支持豐富的健康檢查功能,保障后臺服務實時可用;

可以實現N+1臺設備的集群、雙機熱備、雙機互備等多種高可用性部署模

式;

支持冗余電源,最大化網絡運行時間,降低了系統(tǒng)宕機或網絡故障對業(yè)務

的影響。

2.多項應用加速技術,降低服務器負載,提升訪問速度,改善用戶體驗。

采用內存緩存技術,有效降低服務器負載,并提升訪問響應速度。

采用業(yè)界標準Gzip、Deflate壓縮算法,對文本類型資源可實現80%以上

的壓縮率,能降低服務器的壓力,提高帶寬的利用率。

可對多個客戶端的TCP連接進行合并,通過少量的長連接與后臺服務器通

信。

SSL卸載功能,將加解密負荷卸載到應用交付設備上,有效降低服務器壓

力,并保證用戶安全。

3.強大的應用攻擊檢測和防御能力,應用與安全并重。

內置多種DD0S監(jiān)測算法,可有效防御4-7層DD0S、配合防止各類SQL注

入、XSS、緩沖區(qū)溢出黑客攻擊,為客戶提供最佳的應用漏洞和未知威脅的防御

能力。

三.對管理員密碼進行嚴格管理,半年定期更換。

四.網絡設備可以采用華為的產品,性價比高,行銷世界,可以抵御DD0S攻

擊。

五.對數據進行冗余存儲,以防不測,有問題可以及時恢復。

3.5平臺搭建實施步驟

1.搭建機房、供電、冷卻設備,購買服務器10臺(可以提供1000個4G內存

的虛擬機)、存儲設備(2P)、云操作系統(tǒng)、安全軟件、路由器、交換機、防

火墻等網絡設備,搭建云計算平臺,建立虛擬資源池,設置虛擬機。

2.制定遷移計劃,通過docker容器,打包把學校原有的應用系統(tǒng)遷移到虛擬

機上,在另外的虛擬機上搭建hadoop、spark集群,安裝hive、hbase,根據

需要建立hbase數據庫表和列,一張表可以有幾千列,幾十億條數據,把原有

的所有數據庫合為一張表,便于大數據處理,原有數據庫的數據通過sqoop導

入hbase。再把學校原有的服務器、存儲、網絡設備接入云平臺,進行虛擬

化。

3.根據需要,用spark對hbase數據進行準實時分析,用機器學習處理大數據

進行預測,用storm對hbase數據進行實時分析、處理,還可對數據進行可視

化。還可以基于云平臺開發(fā)應用系統(tǒng)。

3.6物理架構設計

模塊化數據中心采用一系列模塊化設計的動力設備,如一體化集成機柜系

統(tǒng)、供配電系統(tǒng)、制冷系統(tǒng)、監(jiān)控系統(tǒng)和綜合布線系統(tǒng),高集成設計,通過簡

單的接口將相關模塊進行組合,從而形成一個完整的數據中心。具有高密模塊

化,高可靠性與安全性,快速靈活部署,簡單低耗,完善監(jiān)控等特點。

模塊化數據中心充分考慮組件設計、功能和相關性,按照在標準化級別與

用戶靈活性之間取得最佳平衡的方式進行模塊化。例如,模塊化電源系統(tǒng)在電

源、冗余模塊和運行時間方面均實現了可擴展性,可以根據當前的IT需求進行

部署,并且考慮后續(xù)業(yè)務的擴展,這種系統(tǒng)規(guī)模優(yōu)化能力顯著降低了總擁有成

本。而且提供熱插拔,從而在不需要停止運行系統(tǒng)的條件下進行維護設備。

單排密封通道的模塊化數據中心如下圖所示。

模塊化數據中心整體架構,如下圖所示。

模塊化設計為滿足不斷變化的IT需求提供了極大的靈活性。在安裝、升級、重

新配置或移動模塊化系統(tǒng)時,獨立組件、標準接口既節(jié)省了時間又節(jié)約了費

用。同時也方便設備的選型、采購、安裝、維護和擴容,降低整體運營成本,

越來越具有吸引力。

?模塊化數據中心特點

模塊化數據中心集成方案具有高密模塊化,高可靠性和安全性,快速靈活

部署,低成本和低能耗,完善的監(jiān)控等特點,是新一代集成模塊化數據中心產

品。

1.高密模塊化

?集成機柜系統(tǒng)、供配電系統(tǒng)、制冷系統(tǒng)、監(jiān)控系統(tǒng)和綜合布線系統(tǒng),高

集成設計,提供完整的解決方案。

?與云主機、桌面云業(yè)務無縫集成,提供端到端數據中心解決方案。

2.快速靈活部署

?工廠預制部件,現場快速組裝,部署靈活。

?建設周期縮短50%以上,場地限制少。

3.按需定制

?采用模塊化的部件和統(tǒng)一的接口標準,可實現以機架為單位或以模塊。

?為單位按需擴容,實現按需調度和動態(tài)調整網絡資源,節(jié)省投資。

4.智能管理

?彈性IT平臺,全面的虛擬化能力,極大提升管理效率。

?可通過多種傳感器,實現對數據中心內各功能模塊的不間斷監(jiān)控。

?應用智能化的運營管理平臺,可實現對數據中心基礎設施動力、環(huán)境、

視頻、門禁全領域的遠程監(jiān)控,統(tǒng)一管理、統(tǒng)一部署、統(tǒng)一監(jiān)控和統(tǒng)一

備份。

5.低成本和低能耗

?可以直接安裝在樓宇水泥地面上,無需專用數據中心,可減少外配套工

程。

?空調靠近設備提高送風效率;水平送風空調靠近熱源,送風距離大大縮

短,從而減少了距離導致的氣流壓力損失,冷空氣的泄漏損失,提高了

冷量的利用效率。

?供應周期短,快速交付,快速安裝,有效降低成本。

第4章整體架構設計

4.1網絡總體架構

運營商線路

光纖一

RJ45線

圖例

3接

數據中心匯聚交換機

區(qū)

儲■■,AAA,AAA

區(qū)

主數據存儲備數據存儲

其他終端區(qū)運營終端區(qū)

圖4Txxx總體網絡拓撲圖

刀片服務器通過機架上的2個交換機連接到核心交換機,核心交換機通過

防火墻連接路由器,路由器連接internet。2臺云管理服務器運行云操作系

統(tǒng),采用Haproxy形成冗余,對云中心進行管理,oracle、sqlserver數據庫

通過交換機接入網絡,安全服務器、存儲也接入交換機。Mysql數據庫可以安

裝在虛擬機上,oracle、sqlserver數據庫不能裝在虛擬機上,否則性能降低

60%o

通過在防火墻上制定策略,對云中心服務器進行過濾,保護云中心的服務

器。

4.2XXX公共服務平臺功能設計

4.2.1數據中心功能示意圖

圖4-6數據中心功能示意圖

4.2.2公共服務系統(tǒng)功能示意圖

公共慰

務系統(tǒng)

1s9MS9

交互門在線辦企業(yè)版涔南投

戶橫決?橫快鳥嗜埃訴雁決若平臺

B^>3

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論