




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
企業數據中心系統平臺
技術方案建議書
項目技術方案
大數據平臺方案設計
1.1需求分析
1.1.1采購范圍與基本要求
建設XX高新區開發區智慧園區的人口庫(12萬居民)、法人庫(1200家企業)、地
理信息庫(已建設區域35平方公里的3維電子地圖、未建設區域80平方公里的航拍電
子地圖)、視頻庫(1000個攝像點)、大數據處理平臺、數據管理服務平臺。
1.1.2建設內容要求
人口庫
人口庫的基本信息以公安部門戶籍和暫住人口信息為基礎,整合人社、計生、民政、
教育等多個部門信息資源,建設統一規范的人口庫和人口信息服務平臺。
(1)人口庫的內容目錄
序號信息目錄(一級)信息目錄(二級)可能的信息源單位
1人員信息(常駐)
2人員信息(暫住)
人口基本信息公安局
3戶籍成員信息
4死亡信息
5駕駛人員信息
6人員車輛信息機動車信息公安局(交警系統)
7電動車信息
8房主信息
社居民區服務信息房管局、村(居)委會
9房屋變動信息
10黨員信息
11培養黨員信息
組織人社局、
社區黨建信息
12黨員流入信息村(居)委會
13黨員流出信息
14準生證信息
15婚前檢杳信息
16孕前檢查信息
社居民區服務信息社會發展局
17婚育證信息
18節育手術信息
19計生處罰信息
序號信息目錄(一級)信息目錄(二級)可能的信息源單位
20社區衛生服務機構信息
21醫療機構信息
衛生信息社會發展局
22醫療資源信息
23衛生許可信息
24社會組織信息
25區域地名信息社會發展局
民政信息
26最低保障收入人員信息
27精準扶貧對象信息村居管理委員會
28單位信息
社保基本信息
29參保人員信息
30退休待遇信息
養老保險信息
31轉移人員信息
32失業信息失業登記和失業保險信息
城鎮職工基本醫療保險賬戶信
33
息組織人社局
34醫療信息門慢信息
定點醫療機構和定點零售藥店
35
信息
36傷殘認定信息
37工傷信息勞動能力鑒定信息
38工傷待遇信息
⑵人口信息服務平臺功能需求
數據庫層:能夠安全存儲人口庫的內容目錄中列出的信息內容,對居民、企業、政
府提供安全的人口信息服務,為人口大數據分析提供基本數據源。
應用支撐層:包括門戶框架、數據庫維護、報表組件、數據挖掘等,用于為應用層
提供應用支撐。數據挖掘提供常見的數據分析/挖掘工具、通用算法,利用大數據平臺
的計算能力進行分析,對人口庫數據進行數據挖掘與發現,提供有價值的分析結果。
應用層:包括人口信息服務、人口專題分析、公共服務等。
法人庫
法人庫以工商部門的企業信息為基礎,整合各參建部門系統中的法人信息,如機構
代碼、機構名稱、機構類型、經濟行業、業務經營范圍、機構地址、法定代表人等字段
信息,建成標識統一、結構科學、查詢快捷、動態管理的法人信息庫。制定與交換平臺
對應的相關標準、制度和規范管理體系,實現工商局、地稅局、國稅局、質量技術監督
局等法人數據相關業務部門之間的網絡互聯和業務數據的實時交換與應用。
(1)法人庫的內容目錄
序號信息目錄(一級)信息目錄(二級)可能的信息源單位
1股東(投資者)信息
2企業基本信息法人信息工商質監局,企業
3地址與聯系信息
4工商登記信息
5工商變更信息
工商注冊信息工商質監局
6工商注銷信息
7工商吊銷信息
8稅務登記信息
9稅務注銷信息
稅務信息稅務局
10稅務登記驗換證信息
11企業發票信息
12組織架構
13發展戰略
14品牌
15產品與服務信息
16人力資源信息
17高端技術和設備
企業經營信息企業
18財務報表
19資質信息
20信用信息
21榮譽信息
22文化
23違規處罰等不良信息
(2)法人信息服務平臺功能需求
數據庫層:能夠安全存儲法人庫的內容目錄中列出的信息內容,對居民、企業、政
府提供安全的法人信息服務,為法人大數據分析提供基本數據源。
應用支撐層:包括門戶框架、數據庫維護、統計與報表組件、數據挖掘等,用于為
應用層提供應用支撐。數據挖掘提供常見的數據分析/挖掘工具、通用算法,利用大數
據平臺的計算能力進行分析,對法人庫數據進行數據挖掘與發現,提供有價值的分析結
果。
應用層:包括法人信息服務、法人專題分析、公共服務等。
地理信息庫
以國土資源部空間地理數據框架作為基礎,采用分布式存儲并行計算的技術思路統
111
一搭建地理信息庫,再與智慧園區建設涉及的各類專題圖層進行融合、關聯,實現統一
共享,逐漸形成XX高新區權威、豐富的地理信息數據庫。要求根據不同信息資源類別,
提供數據庫表結構設計。
地理信息庫維護文件主要提供地圖基本操作、地圖測量、圖層控制、空間分析等信
息服務功能。
地理信息庫配置一套高性能GIS工具軟件,基于高性能云GIS平臺搭建,實現空間
數據的統一管理,完成空間數據檢查、轉換、入庫、管理、制圖顯示、服務發布等一系
列空間數據分析處理功能。
(1)地理信息庫的內容目錄
序號信息目錄(一級)信息目錄(二級)可能的信息源單位
三維電子地圖:己建設區域30平方公里國土資源部、中標單位
1電子地圖數據
航拍電子地圖:未建設區域60平方公里測量
國土資源部、中標單位
2地理實體數據建筑、道路、水系、綠地、農田等
測量
已建設區域30平方公里,分等級實現重點城區
3三維模型數據中標單位測量、建設
精細三維模型數據和其它地區簡易模型數據
路燈、交通燈、屏顯、導示牌、標志性行道樹、
4城市部件數據城管等部門
線纜、地下管網等
5規劃數據規劃用地數據規劃局
6POI數據企業(項目)數據規劃局、辦公室等
(2)地理信息庫管理平臺功能需求
數據處理:格式轉換、坐標轉換、屬性編輯、數據裁切。
數據質檢:矢量數據檢查、柵格數據檢查、三維模型數據檢查、元數據檢查。
入庫更新:矢量數據入庫、影像數據入庫、三維模型數據入庫、元數據入庫。
數據輸出:矢量數據提取、柵格數據提取。
查詢瀏覽:地圖瀏覽、數據加教、SQL查詢、空間查詢、數據對比瀏覽、元數據查
詢。
歷史數據管理:歷史版本數據比較、版本數據提取。
系統管理:權限管理、日志管理、備份恢復。
1.1.2.4視頻庫
(1)視頻庫的內容目錄
序號信息目錄(一級)信息目錄(二級)可能的信息源單位
iv
視頻目錄視頻監控系統
1視頻
視頻文件數字攝像裝置
2視頻特征視頻特征文件
(2)視頻庫管理平臺功能需求
與視頻監控系統的接口、視頻入庫、視頻目錄管理、視頻文件管理、視頻特征文件
生成、視頻檢索、視頻異常發現等。
1.1.2.5大數據處理平臺
(1)大數據基礎平臺
提供基礎管控、基礎服務的大數據基礎支撐功能。大數據基礎平臺要充分利用目前
先進的大數據處理技術,保證系統技術的前瞻性和先進性。大數據基礎平臺要求提供海
量數據的采集、存儲、計算、接口服務能力;需要滿足海量、異構的大數據的存儲、共
享、開放及分析挖掘方面的要求;需要采用主流的大數據的技術架構,全面滿足結構化
數據、半構化數據及非結構化數據的存儲、處理及計算要求;提供多種數據采集工具,
支持多種格式數據采集;提供接口服務,供二次開發應用等。
大數據基礎平臺要求能夠管理大數據中心集群的物理服務器資源,控制分布式程序
運行,隱藏下層故障恢復和數據冗余等細節,為大數據處理平臺提供統一的管理、監控、
維護等日常管理功能。主要包括:資源管理、安全管理、運維管理、集群部署及監控、
任務調度等功能,同時配備友好的管理界面。
①數據采集要求
大數據處理平臺數據主要來自數據資源中心,包括基礎庫(人口庫、法人庫、地理
信息庫、視頻庫)數據、主題庫(業務數據庫)數據和互聯網數據,同時也支持其他外部
系統數據來源。數據采集系統要求提供多種數據采集工具,支持多種格式數據采集。對
于結構化數據、非結構化數據以及網絡數據采用不同的采集工具進行數據導入。支持多
種數據采集方式,比如ETL、FTP、文件導入導出、關系數據庫數據等。
②分布式存儲要求
平臺能夠根據結構化數據和非結構數據的不同特點,分別提供數據倉庫和分布式列
式數據庫存儲服務,底層支撐技術支持分布式文件系統,所有的數據可以形成多份副本
均勻分布存儲在各個服務節點的存儲上,保證數據可靠性和提高讀寫效率。
③大數據計算引擎要求
離線計算引擎(Mapreduce):離線分布式計算作為一個海量結構化數據離線處理與
V
分析服務,著力于實時性要求不高的海量數據(TB/PB級別)離線處理。支持并行化、
容錯、數據分布、負載均衡。離線計算引擎需要具有PB級的存儲處理能力和計算吞吐
能力,支持多應用多實例并發同時計算并隔離應用數據和程序的能力。
支持Mapreduce等批量數據分布式計算框架。
支持分布式內存計算框架。
支持作業查詢預處理調度算法,可根據業務屬性對指定的多個隊列按照優先級的配
置進行任務的提交。
具備高可靠性,支持主控節點雙機,避免單點故障不可恢復。
具備高度可擴展,可動態增加/削減計算節點,真正實現彈性計算。
支持離線計算組件界面配置化,可以對配置進行查看和修改,并立刻生效。
支持離線計算組件性能指標界面可視化,通過界面實時監控組件性能指標。
支持多租戶權限管理能力,支持不同用戶之間的資源隔離。
支持多應用多實例并發同時計算并隔離應用數據和程序的能力。
內存計算引擎(Spark):基于內存的迭代計算框架,適用于需要多次操作特定數據
集的應用場合。由于中間輸出和結果可以保存在內存中,從而不再需要讀寫分布式文件
系統,能更好地適用于數據挖掘與機器學習等需要迭代的算法。
支持作業查詢預處理調度算法,可以根據業務屬性對指定的多個隊列按照優先級的
配置進行任務的提交。
支持審計日志可查詢,在管理運維的界面中可以進行內存計算引擎日志的查詢。
支持相關存儲目錄規整,對內存計算引擎的數據目錄進行規整,修改默認配置,并
提供界面上的修改配置的地方。
支持配置界面化,能夠在管理運維界面上對內存計算引擎的配置進行查看和修改,
并能夠同步到前臺立刻生效。
支持通過界面展示性能指標,能夠在界面上查看內存計算引擎的性能指標數據。
支持onYarn等方式,在管理運維界面上安裝服務,可以在安裝的時候,選擇OnYarn
等的方式安裝。
支持內存計算引擎的Master的HA等,可以對內存計算引擎的master角色進行HA
等部署,以保證該節點的高可用性。
實時計算引擎(例如sparkstreaming,Storm):實時分布式計算需要提供大吞吐
vi
量的實時流式數據處理。要求保證高可靠性的前提下讓數據處理更加實時,具備低延時、
容錯和分布計算特性。采用分布式計算框架提供實時計算服務,可按需擴容。支持高并
發低延時的數據處理。
計算引擎:支持SPARKSTREAMING等實時計算框架、STORM分布式流式計算框架兩
種計算框架功能。
支持對流數據的處理,數據可以建立關聯處理。
高效處理數據:支持消息的分流、合流、聚合的消息處理。
數據按業務分析,可支持不同的應用接入,并對應不同的應用輸出計算結果。
事件監測:對數據處理低延時,滿足事件監控等實時性要求很高的場景。
具備高可靠性,支持主控節點雙機,具備自動容錯能力,避免單點故障不可恢復。
支持實時計算組件界面配置化,可以對配置進行查看和修改,配置修改立刻生效。
支持實時計算組件性能指標界面可視化,通過界面實時監控實時計算組件性能指標。
④全文搜索引擎(例如solr)
提供豐富的查詢語言,同時實現可配置、可擴展并對查詢性能進行優化,提供一個
完善的功能管理界面。可以實現集中式的配置信息、自動容錯、查詢時自動負載均衡、
自動分發的索引和索引分片和事務日志等多種特色功能。
可以對搜索引擎集合進行快照,可以周期、定時創建集合快照,對索引數據進行備
份。
提供搜索引擎數據切換自動化工具,一鍵式操作實現搜索引擎數據從一個集群切換
到另外一個集群,安全可靠。
提供搜索引擎節點擴容數據重分布自動化工具,搜索引擎節點擴容后數據均勻的重
分布到新增節點上,負載均勻的分擔到各節點上。
支持搜索引擎服務自動拉起功能,提高可靠性。除管理平臺界面手工停止服務之外
的異常服務停止后都會自動拉起,保證服務連續可用。
⑤資源管理(例如yarn)
資源管理要求能夠實現調度和分配集群的內存和計算等資源給上層應用和服務,能
夠管理運行在集群節點上的任務的生命周期和資源使用,提供靜態資源池和動態資源池
功能。在多用戶運行環境中,能夠支持計算額度和訪問控制,作業優先級和資源搶占,
達到在保障公平的前提下,有效地共享集群資源。支持VIP隊列管理,支持根據業務需
vii
要指定作業在指定的計算節點上運行,隔離重點任務和普通任務,保障重點任務的物理
資源。要求給出詳細的設計方案。資源管理能夠面向海量數據處理和大規模計算類型的
復雜應用提供統一的資源管理和調度。提供通用的并行計算框架,要求兼容批量分布式
計算、內存分布式計算、流式計算等多種編程模式。具備高可擴展性,支持作業定點調
度,支持優先級高的作業優先分配到資源。能夠自動檢測故障和系統熱點,重試失敗任
務,保證作業穩定可靠運行完成。
支持作業定點調度,指定作業在哪些主機上運行,隔離重點任務和普通任務。
支持隊列增加優先級屬性,優先級高的作業優先分配到資源。
支持白名單功能,限制客戶端向集群的resourcemanager提交作業。
支持提交權限,限制無權用戶提交作業并運行。
支持隊列屬性修改圖形化,在圖形化界面中配置新增、修改、刪除隊列屬性。
支持隊列屬性增加“最大作業提交數”屬性,在圖形化界面中新增“最大作業提交
數”屬性可配置
⑥分布式協作服務(例如Zookeeper)
分布式協作服務提供分布式、高可用的協作服務,可以用來構建分布式應用。它能
為分布式文件系統、分布式列式數據庫、離線計算、資源管理與調度、數據倉庫等大數
據組件提供重要的功能支撐。在分布式應用中,通常需要分布式協作服務來提供可靠的、
可擴展的、分布式的、可配置的協調機制來統一各系統的狀態。
幫助系統避免單點故障,建立可靠的應用程序。
提供分布式協作服務和維護配置信息。
⑦安全管理
安全管理能夠提供以用戶為單位的身份認證和授權,能夠對集群數據資源和服務進
行訪問控制,包括系統用戶、應用用戶的身份和權限管理,日志管理等。
⑧運維管理
主機管理:可以對已經添加的主機及其運行狀態進行查詢,可以對單臺主機進行全
面監控。通過在已添加主機安裝代理,支持通過代理訪問計算集群提供相關組件服務和
操作。要求給出詳細的設計方案。
服務管理:對大數據平臺包含的各個組件服務提供的管理界面,可對各組件運行狀
態進行監控,可執行啟、停操作;除手動停止服務外,系統監測到服務異常終止時可以
viii
自動拉起服務,并可以根據需要打開或關閉自動拉起開關。可對具體角色實例進行管理。
為避免應用之間在申請組件服務時相互干擾,提升應用的健壯性和可靠性,應支持相同
組件的服務既共享物理資源,又相互獨立。要求給出詳細的設計方案。
告警管理:告警管理功能包括告警查看、閥值設置。監控系統各類異常,在管理界
面上實時呈現。支持集群內不同節點差異化告警閾值設置。
系統管理:包括系統配置、巡檢、備份。其中,系統配置包含版本設置和SNMP設
置。巡檢功能需要支持自動巡檢和手動巡檢兩種方式。提供備份功能,包含快照和集群
間備份。支持服務日志級別動態調整,支持組件配置項快速查找功能,并且用戶可以根
據需要新增自定義組件配置項。
⑨展現界面設計
詳細展示大數據平臺的運行情況。界面展示內容包括主頁界面、集群界面、主機管
理界面、告警管理界面、安裝界面、系統管理界面、日志界面、安全界面等。
主頁界面:可以整體查看集群的整體運行狀況,包括主機、服務等資源的數量、在
線情況;運行負載情況;以及告警信息。
集群界面:包含服務管理、靜態資源池、動態資源池等;其中,服務管理界面提供
對大數據平臺各組件運行狀態進行監控,可執行啟、停操作;靜態資源池界面和動態資
源池界面可對根據服務狀態對資源進行靜態和動態調整。
主機界面:可以查詢已添加的主機及其運行狀態,也可對單臺主機進行全面監控。
告警界面:主要包含告警查看和閥值設置。
安裝界面:包括安裝集群、安裝主機、安裝服務、機架管理、升級服務、升級主機。
系統管理界面:包含巡檢報告、開關設置、版本設置等內容。
日志界面:分為操作日志、系統日志、安全日志。可以按照查詢條件對日志進行查
詢操作,并可對日志可以進行分類、刪除、過濾、導出。
安全界面:包含部門管理、用戶管理、角色管理等。
⑩集群部署及監控
集群部署與監控能夠提供整個云操作系統以及上層應用服務的部署、配置管理以及
服務的自檢和自舉。
集群部署:支持自動化的安裝部署,使用工具進行自動安裝,簡單快捷。主要功能
包括:集群安裝、主機安裝、服務安裝、服務升級、主機升級、機架管理。
ix
運行監控:可以整體查看大數據集群的整體運行狀況。包括主機、服務等資源的數
量、在線情況;運行負載情況;以及告警信息。同時監控大數據平臺各組件運行狀態、
硬件資源占用情況(硬盤、CPU、內存等)等,如果被監控對象出現異常情況,監控系
統就會在相關管理告警頁面發出告警通知。
(2)大數據多維分析查詢系統
①總體要求
大數據多維查詢系統要求提供超大數據規模數據查詢,支持PB級數據量。針對海
量數據可以進行任意維度的密集計算與檢索,支持建立OLAPCube,提供MOLAP能力。支
持高并發、低延時的在線數據應用系統,能夠提供高并發的實時計算查詢服務,對于百
億行級別的數據可在亞秒級時間返回查詢結果。大數據多維查詢系統主要面向傳統架構
中OLAP(聯機分析處理)數據訪問場景,利用多維分析技術,針對特定分析主題,設計
多種可能的觀察方式,設計相應的分析主題結構,使用戶在多維模型基礎上進行快速、
穩定、交互式訪問,以達到復雜分析和數據預測的作用,實現實時聯機分析處理的效果,
面向高并發、海量、低延時的業務場景。
②創建數據模型
系統能夠根據維度和指標的要求,從現有的數據表中選擇可對應維度或指標的字段,
將這些字段的信息分別保存在維度表和度量表中。支持層級維度、聯合維度、可推導維
度等維度降維優化技術。根據業務的聚合需求,支持定義度量的聚合形式,包括SUM、
MIN、MAX、COUNT.COUNT_DISTINCT等。可定義分區類型、分區列和開始日期等,以支
持采用增量構建方式對Cube進行構建。
③分析查詢處理
系統能夠根據維度指標定義及關聯關系,提供多維數據的分析查詢處理,在查詢過
程中能夠分別根據上鉆、下鉆、切片、切塊、旋轉、TOPN等操作進行相應的處理。
支持web頁面向導式模型構建及任務監控。支持ANSISQL查詢標準,對外提供標
準的ODBC,JDBC驅動及RESTAPI接口。
(3)大數據智能分析系統
①總體要求
大數據智能分析系統提供各類數據的融合與共享服務,要求集成豐富的數據挖掘算
法,能夠對海量數據提供高效的分析和計算。數據分析挖掘引擎支持并行化統計算法和
X
機器學習基礎算法庫,支持的并行化基礎算法,能夠處理大數據集。
②算法庫
大數據智能分析平臺,需集成豐富的機器學習、數據挖掘算法,包括但不限于分類、
預測與回歸、聚類、降維、推薦/協同過濾、相似度等算法,支持對海量數據進行高效
的分析和計算,支持圖計算和圖挖掘,支持用戶擴展算法庫。
聚類分析:集成常用的聚類分析算法對數據進行抽象的分組分類。
分類分析:在設定好的分類之中,對數據進行歸類。
關聯分析:集成常用關聯分析算法,對數據之間的關聯關系進行分析,得出不同數
據之間的關聯關系。
回歸分析:集成常用回歸分析算法。
特征分析:集成常用特征分析算法,挖掘數據潛在的特征。
圖挖掘:基于圖和圖并行計算框架提供圖挖掘工具,主要包含:連通圖、最短路徑、
三角關系計數、社區關系。
③智能分析系統
數據準備:通過對業務需求分析,搜索所有與業務對象有關的內部和外部數據信息,
從中選擇出適用于數據挖掘應用的數據,并進行數據預處理。數據預處理可以加快分析
過程,提高分析結果的精度,針對不同的數據類型缺失值的處理各不相同,需要結合業
務場景。
數據探索:通過統計分析和關聯分析等手段,能夠深入挖掘多源多維數據之間的關
聯性,從不同的維度分析數據,加深對數據的理解,提取可能對業務結果相關的影響因
子,探索發掘數據的內在規律特征,為分析模型對業務進行定量與定性的結合分析。
數據構建:根據數據源類型、業務要求建立對應的數據模型。通過分類、聚類、關
聯、回歸、特征分析等機器學習算法和分析方法,對海量多樣化數據進行進行模型構建
和數據分析挖掘。數據模型的設計包括設計和準備數據源,數據的處理,選取和設計數
據算法。數據模型的建立是一個預定義、評估、優化的過程。
模型評估:利用評估算法對模型進行評估,評估數據分析結果的合理性、合法性,
評價模型的優劣。根據分析結果及時調整和優化數據模型,如果結果不符合預期,需要
調整參數進行機器學習,重新估算。
可視化智能分析工具:要求提供可視化智能分析工具,加速數據分析模型設計。可
XI
視化智能分析套件為數據分析提供直觀的圖形化用戶界面,用于設計分析流程。實現完
整的建模步驟,從數據加載、匯集、到轉化和準備階段,再到數據分析和產生預測階段。
1.1.2.6數據管理服務平臺
數據管理服務平臺是一個管理、展現平臺,主要包括:數據治理與監控系統、數據
服務集成管理系統和大數據展現門戶等。
(1)數據治理與監控系統
數據治理與監控系統是一個數據治理和數據監控的綜合管理系統,對數據資源中心
和大數據處理平臺兩大部分數據進行治理和管控。數據治理按照數據全生命周期來管理,
要求包含:數據源管理、數據質量管理、數據地圖管理、數據血緣管理、數據安全管理
和元數據管理等;數據監控與數據治理相輔相成,實現對數據資源的全程監控,包括:
全局數據監控、部門數據監控、數據存儲使用監控和數據異常監控等內容。
①數據標準管理
術語標準管理:包括限定詞、同義詞、術語等信息庫的管理。
元數據管理:元數據記錄了數據源的結構信息,有了元數據才能對數據源進行各種
操作,元數據管理需要提供對各數據源的元數據進行注冊,加載,查看等功能。
數據源管理:數據源管理包括:基礎環境的管理、標準編碼管理等。
基礎環境管理:基礎環境配置管理用于進行一些基礎信息的配置,包括:源、目標
數據源的配置、標準數據庫表結構配置及其編碼表的配置等。
②標準編碼表管理
用于對數據中心數據涉及的編碼表及其編碼項進行定義。
③數據處理管理
提供完善的數據處理功能,如數據清洗、數據比對、數據加載、數據轉換、數據共
享等功能。
④數據規則與質量管理
數據質量監控是根據預設的規則來檢測數據中的質量問題,檢測規則可自主配置,
也可以自主編寫規則表達式。數據質量監控與系統調度關聯使用,發現臟數據,避免錯
誤的數據流入下游應用。
⑤數據地圖
數據全局視圖:展示從外部源到內部庫,到輸出數據庫的數據整體流向,展示類別
XII
數目、庫數目、表數目、分別統計庫、表、字段、作業、任務等數量。從表數目和數據
存儲量的角度展示數據庫中按月度變化的動態信息,以直觀的圖形化進行動態展示。并
且可以區分不同部門進行統計。
數據動態分布:從表數目和數據存儲量的角度展示數據倉庫中按月度變化的動態信
息,以直觀的圖形化進行動態展示。并且可以區分不同部門或者租戶進行統計。
數據血緣:數據血緣以歷史事實的方式記錄每項數據的來源,處理過程,應用對接
情況等,記錄了數據表在治理過程中的全鏈血緣關系。數據血緣就是通過對數據處理的
全過程追蹤,找到以某個數據對象為起點的所有與該對象相關的元數據和它們之間關系
的一種技術手段。
(2)數據服務集成管理系統
搭建基于企業服務總線(ESB)的服務集成管理系統,構建數據服務的統一通信通
道,即使在協議不同、格式不同、標準不同的情況下,服務與對接服務之間都可以實現
交互通信,傳遞消息,以便實現服務集成管理目標,從而實現各類數據服務的統一管理,
面向政府用于、企業、公眾、開發者,提供便捷的數據服務。具體包括:
①服務注冊與發布
提供服務定義、注冊、審核和發布功能,發布前可以對服務的配置參數進行審核與
修改,配置通道,發布后,自動生成/更新對應服務的配置文件(如WSDL),連同服務參
數配置,更新至服務目錄中;提供對注冊/發布服務的連通性測試;
②服務生命周期管理
提供服務的注冊、變更、下線的申請、審核、復核功能,檢查和確認服務狀態以執
行變更、下線;根據服務優化管理中的服務拓撲分析,調整服務層級分類或整合服務,
以實現優化;提供服務版本的管理;
③流程管理
支持服務申請、服務變更、服務下線等服務生命周期管理中相關流程的管理功能;
④服務目錄管理
提供服務目錄的瀏覽和檢索;提供服務目錄/服務定義/服務狀態的查詢和管理,包
括權限的過濾和管理;
⑤接入系統管理
設置和管理服務請求方和接入請求系統的映射關系;設置和管理服務提供方和接入
X111
服務系統的映射關系;設置和管理服務請求方、服務提供方在服務治理系統的用戶映射
關系;
⑥接口數據管理
提供數據字典的定義和管理,提供服務方法接口和數據字典字段的映射關系設置。
(3)大數據展現門戶
大數據展現門戶是智慧園區大數據中心對外服務窗口,門戶包括兩個方面:政務數
據資源門戶(內部數據門戶)和公眾數據門戶(外部數據門戶)。
政務數據資源門戶作為大數據管理部門信息發布和資源服務的總管理入口,為各級
政府部門提供信息資源展示、在線信息服務、信息檢索、系統集成訪問等功能。另外,
針對系統管理員、各級領導、政務用戶的不同應用需求,提供個性化工作臺。
公眾數據門戶提供政務部門可公開各類數據的下載與服務,為企業和個人開展政務
信息資源的社會化開發利用提供數據支撐,推動信息資源增值服務業的發展以及相關數
據分析與研究工作的開展。
①政務數據資源門戶
門戶基本管理:政務數據資源門戶主要是提供政務大數據中心數據成果的展示和應
用訪問入口的應用集成。提供單點登錄、訪問權限管理,后臺內容管理等功能。
在線查詢服務:針對政務數據中心,開發高效率的在線查詢服務。人口信息、法人
信息、宏觀經濟、信用信息等面向政府部門提供信息服務,空間地理信息服務包括地圖
基本操作、地圖測量、圖層控制、空間分析以及相關數據融合等信息服務功能。
信息資源綜合展示:能通過可視化的方式展示區域內信息資源的全景,即:部門信
息資源的分布情況,需求情況、使用情況,需要按照不同視角進行呈現,要求包含但不
限于:資產總體視圖、組織機構視角、服務對象視角、信息資源視角、協同主題視角。
用戶交流模塊:為用戶提供交流的手段,每個授權用戶都可以在交流板塊上提出問
題、見解或者是進行討論,針對交流的問題可以選擇是否公開。
用戶幫助模塊:為用戶提供平臺功能及其操作方法的介紹和幫助說明,使各級用戶
盡快掌握使用方法。
②公眾數據門戶
為了實現政務數據對社會的開放,帶動大數據產業發展,利用政務大數據促進信息
產業創業創新,建設數據對外開放的門戶,實現政務大數據的對外開放。針對公眾數據
xiv
門戶將要充分利用政府門戶網站,在現有的門戶網站上開辟一個政務數據開放的入口,
點擊后即可進入公眾數據門戶。公眾數據門戶的主要功能有:資源目錄、數據開放接口、
APP應用、互動交流等。
資源目錄:社會公眾可以通過資源目錄查找到需要的數據,找到相應數據的獲取方
式,數據可以是通過下載方式獲取也可以通過數據接口的方式獲取,無論哪種方式都需
要用戶注冊認證后才可以獲取。用戶可以通過數據資源主題的方式查找,也可以用戶數
據來源各部門的方式查找。
數據開放接口:用戶可以通過此功能查找到可以調用的數據接口,并可以查找到數
據接口的調用方式、說明文檔、代碼示例等相關內容,通過功能應用開發人員可以方便
的通過數據接口獲取所需要的數據。
互動交流:互動交流功能是網站用戶與網站管理人員進行互動交流的模塊,在這里
網站管理人員可以將網站的使用說明和一些常遇到的問題及解決方法公布出來,網站管
理人員也可以在此公布調查問卷,征求普通用戶的意見。同時,普通用戶也可以在這里
提出自己的疑問,讓管理人員進行解答。
1.2設計方案
1.2.1總體平臺設計
1.2.1.1總體架構
智慧園區大數據平臺的核心是建立面向宏觀經濟發展、社會公共服務的數據庫和數
據服務。總體架構由支撐體系(標準規范支撐體系、管理運行維護支撐體系、安全支撐
體系)、網絡系統、信息共享平臺軟硬件系統環境、數據庫體系(中心交換庫、基礎數
據庫、主題庫、發布庫、宏觀經濟數據庫管理系統、元數據庫系統)、應用系統(數據
交換處理系統、應用支撐系統、數據綜合分析系統)組成。
XV
黨政領導機構項目共建單位發改委社會公眾
數據綜合分析系統應用支控系統
應用系統數據交換處理系統
I正總共享平價軟硬件系統I
標準規范支撐體系
圖大數據平臺總體架構圖
信息共享平臺通過網絡收集統計系統和各共建部門的信息資源,并有效地將這些信
息資源進行分類整理,實現跨部門、跨行業的宏觀經濟管理信息共享,并向用戶提供數
據服務;
數據庫體系:由元數據控制,實現數據的交換、存儲和發布,整合共建單位現有信
息資源,構建主題庫和發布庫,為數據服務提供支持。
1.2.1.2體系結構圖
智慧園區公共基礎數據庫信息共享平臺劃分為工作(生產)區、發布(共享)區和
互聯網信息發布區。在工作(生產)區構建宏觀經濟數據的采集、整合、處理和存儲系
統;在發布(共享)區構建宏觀經濟數據的發布與共享、存儲與備份和專網門戶系統等
環境支撐系統;在互聯網信息發布區構建互聯網門戶系統,為社會公眾提供宏觀經濟信
息服務。如下圖表所示:
xvi
)X
:工作
生嚴
依據
宏片
局
策計
阿冢
―^
爐
引叫
P
VRfJ
jf
外同f
平fj
共享
信用
平臺
共淳
格R
平臺
共于
信總
局
市統計
t
用t
外同
逆
計
及境
政務好
發出
信M隔
果
動
公眾正扃若
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2025【合同范本】簡易租房合同協議書
- 2025房地產代理銷售合同范本
- 合伙人退出合作協議書
- 停車場綠化工程合同標準文本
- 二零二五股票與股權分配協議
- 2025年糧食、棉花、化肥等農產品倉儲服務項目合作計劃書
- 辦理協議離婚經過的程序
- 業務員協議書
- 聘用主播的合同范例
- 房地產銷售代理合同樣本
- XX學校推廣應用“國家中小學智慧教育平臺”工作實施方案
- 非遺文化創意產品設計 課件全套 第1-5章 概述- 非遺文創產品設計案例解析
- 法律盡職調查所需資料清單
- 幼兒園中班安全教育活動《緊急電話的用途》
- 118種元素原子結構示意圖
- 英語四線三格Word版
- 幼兒園行政工作制度
- 廣州新華學院
- 部編版七年級下冊道法期中試卷1
- 知識圖譜-課件
- 百年戰爭簡史
評論
0/150
提交評論