大數據治理與服務平臺建設及數據服務運營實施技術方案_第1頁
大數據治理與服務平臺建設及數據服務運營實施技術方案_第2頁
大數據治理與服務平臺建設及數據服務運營實施技術方案_第3頁
大數據治理與服務平臺建設及數據服務運營實施技術方案_第4頁
大數據治理與服務平臺建設及數據服務運營實施技術方案_第5頁
已閱讀5頁,還剩233頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

大數據治理與服務平臺建設及

數據服務運營實施技術方案

目錄

1項目總體概述5

1.1項目背景5

1.2技術與數據現狀5

1.3需求范圍6

2項目解決方案10

2.1建設類業務技術方案10

2.1.1業務需求分析10

2.1.2數據資源范圍11

2.1.3數據資源層次11

2.1.4整體業務架構12

2.1.5業務功能描述13

2.2服務類業務技術方案33

2.2.1數據采集對接服務33

2.2.2數據抽取運維服務48

2.2.3作業調度運維服務55

2.2.4數據資源治瓚艮務72

1

2.2.5數據質量管瓚員務88

2.2.6數據融合處現艮務97

2.2.7數據分析應用服務102

2.2.8數據標注服務107

2.2.9應用建模服務110

2.2.10數據接口開發服務121

2.2.11數據開放支撐服務130

2.2.12數據運行監管服務138

2.3信息安全解決方案147

2.3.1安全服務原則147

2.3.2安全服務措施148

3項目管理方案154

3.1項目管理流程154

3.1.1項目;耀154

3.1.2項目啟動階段155

3.1.3需求分析階段156

3.1.4需求規格階段156

3.1.5設計階段157

3.1.6開發階段157

3.1.7測試階段158

3.1.8試運行階段158

3.1.9驗收階段159

2

3.1.10項目維護階段159

3.2項目質量控制漏呈159

3.2.1立項階段159

3.2.2開發階段160

3.2.3結項階段160

4相關行業案例162

4.1某客戶分析平臺162

4.1.1項目背景162

4.1.2業務目標162

4.1.3建設方案163

4.2產品運營分析平臺173

4.2.1項目背景173

4.2.2總體設計173

4.2.3建設方案175

4.3客戶服務感知與差距管理平臺193

4.3.1項目背景193

4.3.2建設目標194

4.3.3總體設計195

4.3.4建設方案196

5項目售后服務199

5.1服務響應承諾199

5.1.1服務響應方式和內容199

3

5.1.2服務受理時間199

5.1.3服務響應時間199

5.2技術服務承諾200

5.3售后服務方案201

5.3.1服務規范體系201

5.3.2服務質量保障措施203

5.3.3服務管理保障措施208

4

1項目總體概述

1.1項目背景

招標方參與招標方客戶單位其牽頭的信息化項目,建立了良好的長期合作服務關系,

對于客戶單位的重點工作及主要方向有著最合理的把控。招標方已經成功中標多個招標

方客戶單位的數據類項目,需要更好的服務招標方客戶單位的重點核心項目,建立圍繞

政務公共數據管理與運營的制度化、體系化、生態化的全方位支撐服務。為此,需要招

募長期、穩定且技術能力領先的數據服務供應商來共同完成招標方客戶單位的各種業務

目標。

1.2技術與數據現狀

招標方客戶單位的技術架構包含:大數據資源平臺包含統一門戶、數據共享交換子

系統(含數據交換、服務管理等功能模塊1大數據支撐子系統(含數據湖、數據庫I

數據治理子系統、數據質量管理子系統等。

其中:統一門戶主要進行各子系統的集成、功能模塊菜單級整合,實現了平臺用戶、

權限統一管理、單點登錄等;數據共享交換子系統(數據交換模塊)實現數據交換引擎、

統一調度引擎、任務管理、數據橋接等功能,以及對數據湖數據的存儲管理、共享與交

換;大數據支撐子系統(數據湖)匯聚"四大基礎庫"、"統建系統"、"各委辦系統"、"各

行政區系統”的經過初始治理的原始數據;數據治理子系統主要實現三清單動態管理、

公共數據資源目錄管理,以及元數據和數據標準管理;數據質量管理子系統實現完善的

數據質量管理功能,包括數據質量規則制定、數據質量稽核、數據質量問題閉環管理;

大數據支撐子系統(市級數據庫)主要用于存放經過一系列清洗、轉換、加載、治理步

驟后的高質量的公共數據資源,為城市管理、公共服務等提供數據來源;數據共享交換

子系統(服務管理模塊)主要提供市級數據庫中數據對外的服務發布與利用。

5

1.3需求范圍

服務子類服務內容描述

(1)建設完善數據庫:通過人口、法人、空間地

理庫數據源整合開發,并對接電子證照庫。實現對

人口、法人、空間地理信息、證照等的接入、整

合、開發、利用。結合實際,構建公共主題庫及專

題庫,為應用提供安全高質的專題數據服務。

(2)建立數據管埋子系統:主要實現數據架構管

理、數據關系管理、數據資產管理、數據標簽管

理、數據異常管理、數據分析管理、數據流程管

理、流數據處理、知識圖譜功能。

數據治理/(3)擴展數據治理子系統:通過國家資源管理子

建設內容

分析建設系統實現資源申請、撤銷、審核、查詢、配置、目

錄管理、業務流程對接、監控模塊對接等功能。

(4)建設大數據綜合應用(一期):通過宏觀經

濟、市場運行、民生幸福、城市立方體等專題應用

的建設,構建大數據綜合應用示范輔助領導決策,

構建應用管理中心支撐數據應用,以為各部門提供

優質的數據服務。

(5)建設數據開放子系統(一期):通過數據應

用方管理、開放清單管理、數據開放管理、開放授

權管理等構建全面的數據開放子系統,為數據應用

6

方、數據管理方、外部第三方等提供數據注冊、身

份認證、訂閱分發、開放數據追溯等功能。

(6)擴展平臺集成門戶:在大數據資源平臺項目

的基礎上擴展功能。主要包括消息推送、數據推

送、個人信息管理、系統管理等功能。

(7)建立數據開放門戶:主要實現數據目錄、數

據接口、數據應用、數據圖譜、地圖數據、互動交

流、數據開發者、輔助事項、個人管理等各項門戶

目錄的建設。

從政務服務業務梳理著手,開展公共數據梳理,形

成公共數據"三清單",并建立公共數據"三清

數據采集對接服單”的長效動態更新機制,依據“三清單”進行公

務共數據歸集,夯實數據治理基礎。抽取數據業務理

數據治理解、數據理解、目錄編制及數據協議適配、資源掛

和數據開載、清洗等。

放運營服日常數據抽取任務維護,保障各信息系統數據及時

數據抽取運維

務準確地匯聚,對于問題抽取任務的進行處置調整

日常數據加工、分發作業的調度管理,檢查是否及

作業調度運維

時完成,對于中斷作業進行處置;

數據資源治珊艮各類基礎庫、主題庫、專題庫的數據資源治理工

務作,梳理對象與范圍覆蓋更廣,內容更豐富,如數

7

據資源梳理、數據分級分類、數據資產編目、數據

標簽管理、資產配置管理、一數多源梳理等

對歸集數據進行閉環質量管理工作,不斷提升數據

數據質量管珊員

質量,為數據利用打下基礎。閉環數據處理除需進

行常態化的監管之外,還需進行整改督辦跟蹤

開展基礎數據融合應用工作,進行4大基礎庫升級

改造,即人口、法人、空間地理、電子證照基礎數

數據融合處瓚員據庫;同時,依據“三清單"建設政務服務主題數

務據庫,協助各牽頭部門完成市場監管、公共信用、

經濟社會發展、社會治理、公共安全等主題庫的建

數據分析應用服推進數據分析應用,包括業務分析、數據可視化及

務數據產品開發

對結構化數據、文本數據、音頻數據、視頻數據、

數據標注服務流媒體等格式進行內容釋義,并對內容進行分級分

類管理;

根據不同的業務問題進行數學模型的建立,包括參

應用建模服務

數調整、測試集驗證等

提供數據服務能力,包括服務接口的封裝及發布、

數據接口開發服

各委辦局自有接口代管、國家平臺數據資源提供、

數據開放等

8

促進各級政務部門和公共企事業單位建立常態化工

作機制,制定年度數據開放計劃,響應公眾開放需

求,依托開放平臺依法有序推進公共信息資源開

數據開放支撐服

放。

建立數據開放用戶管理機制、分級分類機制、目錄

管理機制、采集管理機制等內容,確保數據開放工

作有序高效、合法合規的推進。

在數據資產運行過程中,保障資產的安全可靠貫穿

數據運行監管服始終。因此需要隨著業務的不斷拓展、技術的不斷

務提升,持續制定與完善數據運營相關的工作規范與

考核機制,保障數據資產在制度框架下有序運行

9

2項目解決方案

2.1建設類業務技術方案

2.1.1業務需求分析

根據對招標要求的理解,建設業務需求主要包括如下幾個方面:

(1)建設完善數據庫:通過人口、法人、空間地理庫數據源整合開發,并對接電

子證照庫。實現對人口、法人、空間地理信息、證照等的接入、整合、開發、利用。結

合實際,構建公共主題庫及專題庫,為應用提供安全高質的專題數據服務。

(2)建立數據管理子系統:主要實現數據架構管理、數據關系管理、數據資產管

理、數據標簽管理、數據異常管理、數據分析管理、數據流程管理、流數據處理、知識

圖譜功能。

(3)擴展數據治理子系統:通過國家資源管理子系統實現資源申請、撤銷、審核、

查詢、配置、目錄管理、業務流程對接、監控模塊對接等功能。

(4)建設大數據綜合應用(一期):通過宏觀經濟、市場運行、民生幸福、城市立

方體等專題應用的建設,構建大數據綜合應用示范輔助領導決策,構建應用管理中心支

撐數據應用,以為各部門提供優質的數據服務。

(5)建設數據開放子系統(一期):通過數據應用方管理、開放清單管理、數據開

放管理、開放授權管理等構建全面的數據開放子系統,為數據應用方、數據管理方、外

部第三方等提供數據注冊、身份認證、訂閱分發、開放數據追溯等功能。

(6)擴展平臺集成門戶:在大數據資源平臺項目的基礎上擴展功能。主要包括消

息推送、數據推送、個人信息管理、系統管理等功能。

(7)建立數據開放門戶:主要實現數據目錄、數據接口、數據應用、數據圖譜、

地圖數據、互動交流、數據開發者、輔助事項、個人管理等各項門戶目錄的建設。

10

2.1.2數據資源范圍

本次項目建設范圍覆蓋招標方客戶單位以及所有委辦局。數據來源即為來自委辦局、

四大庫、互聯網及社會等業務數據。

本項目建設中公共數據管理涉及數據的匯聚、抽取、治理、交換、共享等全生命周

期,在生命周期的各個階段對數據的歸屬權、管理權有明確的界定,有利于各個項目參

與單位能夠做到權責明確、協調統一。

2.1.3數據資源層次

本項目建設將于平臺采用數據湖+數據庫的數據存儲架構。數據湖與數據庫依托于

大數據支撐平臺建設。

(1)數據湖

數據湖是所有從外部數據源落地到招標方客戶單位的統一數據存儲空間。

數據湖基于政務云提供的云數據庫和云存儲服務進行搭建(通常包括關系型數據庫、

NoSQL數據庫、列數據庫、分布式文件存儲等),主要存放政府部門業務數據庫、未經

加工的原始業務數據庫,支持存儲結構化、非結構化等多種類型的數據。

數據湖通過大數據資源平臺,與各部門業務應用系統、區級各部門或區數據管理部

門的前置節點進行交換。數據湖中的共享數據依據元數據進行編目,并建立動態更新的

資源目錄。

數據湖的數據存儲規模極其龐大,需要支持存儲擴展和橫向、縱向遷移,直接用于

分析的平均價值密度較低,通常需經過預處理、集成后,形成高質量公共數據資源。

(2)數據庫

數據庫,用于存放經過一系列清洗、轉換、加載、治理步驟后的高質量的公共數據

資源,其數據來源主要來自于數據湖。對于如一網通辦等特殊應用,平臺支持各部門政

11

務應用系統與數據資源池的直接雙向交互,無需通過數據湖進行中轉,通過平臺的調度

引擎可進行交換鏈路的靈活設置。

數據庫以面向不用數據應用、行業領域及主題進行劃分(如:綜合業務協,同、公共

基礎庫、公共主題庫、擴展主題庫等),并為業務應用和終端用戶提供業務對象訪問、數

據集訪問等數據類服務,支撐輔助決策、數據可視化、數據開放、數據挖掘分析等不同

公共數據應用場景。

通過大數據資源平臺提供的數據集成總線,對數據湖數據進行批量離線處理或實時

處理,并將處理結果落地到數據資源池。數據資源池中的共享數據也需要依據元數據進

行編目,并建立動態更新的資源目錄。

數據庫的數據存儲規模極其龐大,需要采用合適的大數據平臺對明細數據和匯總數

據進行存儲計算,計算結果可以使用分布式文件存儲或關系型數據庫,用于應用訪問或

直接展現。

2.1.4整體業務架構

建立全市數據管理與利用體系:本項目將依托s市數據共享交換子平臺,持續匯入

各市級委力、、各區縣、市級統建系統、四大庫的數據,并新增接入互聯網及社會數據,

通過數據生命周期管理子系統提供公共數據管理、數據層次管理、數據關聯及流向分析、

統一數據地圖等功能,整合法人庫、人口庫、空間地理庫數據源,并通過數據處理子系

統建立經濟活動、公用事業、社會關系等公共主題庫,提供各類專業業務領域主題庫建

設的數據支撐,通過數據服務總線對外提供利用。建設安全管理子系統,提供安全數據

采集、敏感數據管理、安全監管中心等功能。另外,將建立宏觀經濟、市場運行、民生

幸福、城市綜合體等一系列專題應用,在數據利用層面,通過平臺集成門戶對政務部門

12

提供數據利用支撐,通過數據開放子系統與數據開放門戶對各類社會機構提供數據利用

支撐;進一步推動與促進數據共享交換與利用的生態體系構建,持續基于公共數據進行

業務創新。

通過本次項目建設的各子系統、整合的人口、法人、空間地理庫數據源,新建的公

共主題庫、專題庫等,結合S市數據共享交換子平臺,彳各初步構建較為完整的S市大數

據資源平臺,支撐智慧政府的改革。

2.1.5業務功能描述

數據庫建設

建設完善市級數據庫:通過人口、法人、空間地理庫數據源整合開發,并對接電子

證照庫。實現對人口、法人、空間地理信息、證照等的接入、整合、開發、利用。結合

S市實際,構建公共主題庫及專題庫,為應用提供安全高質的專題數據服務。

.1公共基礎庫

.1.1人口庫數據源整合

人口基礎信息庫提供身份核查和信息查詢共享服務,通過輸入公民姓名和身份證號

碼,便可查詢居民身份號碼和姓名匹配度以及死亡(注銷)標識,也可提供公民性別、

民族、出生日期、出生地等信息查詢。

人口庫數據源整合利用大數據資源平臺已歸集的人口相關數據,對人口庫數據接入

相關功能進行數據接入來源方面的功能整合開發。

通過對人口庫數據源的全面梳理,對于原來由人口庫向數據提供部門采集且已(將)

接入大數據資源平臺的數據,通過相關數據接入功能整合開發,改由大數據資源平臺直

接向人口庫提供,不再需要相關數據提供部門重復提供。

13

.1.2法人庫數據源整合

作為全市法人信息的基礎數據庫,法人庫把原先碎片化存放的信息歸集到法人名下,

全面立體的展示法人相關信息。同時,法人庫及S市法人信息共享與應用系統為全市其

他平臺和應用提供有力支撐。

法人庫數據源整合利用大數據資源平臺已歸集的法人相關數據,對法人庫數據接入

相關功能進行數據接入來源方面的功能整合開發。

通過對法人庫數據源的全面梳理,對于原來由法人庫向數據提供部門采集且已(將)

接入大數據資源平臺的數據,通過相關數據接入功能整合開發,改由大數據資源平臺直

接向法人庫提供,不再需要相關數據提供部門重復提供。

.13空間地理庫數據源整合

空間地理庫提供地圖服務、影像服務、地名地址服務、三維服務與坐標轉換等功能

服務,持續為全市用戶提供優質的地理信息服務。

空間地理庫數據源整合,利用大數據資源平臺已歸集的空間地理相關數據,對空間

地理庫數據接入相關功能進行數據接入來源方面的功能整合開發。

通過對空間地理庫數據源的全面梳理,對于原來由空間地理庫向數據提供部門采集

且已(將)接入大數據資源平臺的數據,通過相關數據接入功能整合開發,改由大數據

資源平臺直接向空間地理庫提供,不再需要相關數據提供部門重復提供。

.2支持公共主題庫

立足于公共基礎庫,跨領域跨專題的數據提取并按主題進行整合匯聚,形成公共主

題庫,形成對專題的公共支撐。公共主題庫數據來源不限于政府部門數據,包括事業單

位、企業提供數據和互聯網采集數據等。

14

本項目建設的公共主題庫包括經濟活動、公用事業、社會關系、人員密度等。

經濟活動:建設經濟活動公共主題庫,實現構建與維護,并實現數據更新功能和主

題聚合功能

公用事業:建設公用事業公共主題庫,實現構建與維護,并實現數據更新功能和主

題聚合功能

社會關系:建設社會關系公共主題庫,實現構建與維護,并實現數據更新功能和主

題聚合功能

人員密度:建設人員密度公共主題庫,實現構建與維護,并實現數據更新功能和主

題聚合功能

.3支持公共專題庫

經濟運行監測專題庫:建設宏觀經濟專題專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

宏觀經濟預測專題庫:建設宏觀經濟預測專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

宏觀景氣指數預測專題庫:建設宏觀景氣指數預測專題庫,實現專題庫的規劃、建

庫與維護,并提供數據更新功能

市場主體發展專題庫:建設市場主體發展專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

人口和就業專題庫:建設人口和就業專題庫,實現專題庫的規劃、建庫與維護,并

提供數據更新功能

主體準入分析專題庫:建設主體準入分析專題庫,實現專題庫的規劃、建庫與維護,

15

并提供數據更新功能

產業結構調整專題庫:建設產業結構調整專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

主體經營分析專題庫:建設主體經營分析專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

大眾創業分析專題庫:建設大眾創業分析專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

中小企業發展專題庫:建設中小企業發展專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

電子商務發展專題庫:建設電子商務發展專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

區域市場發展專題庫:建設區域市場發展專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

人口遷移專題庫:建設人口遷移專題庫,實現專題庫的規劃、建庫與維護,并提供

數據更新功能

老齡化及養老專題庫:建設老齡化及養老專題庫,實現專題庫的規劃、建庫與維護,

并提供數據更新功能

流動人口專題庫:建設流動人口專題庫,實現專題庫的規劃、建庫與維護,并提供

數據更新功能

公共安全專題庫:建設公共安全專題庫,實現專題庫的規劃、建庫與維護,并提供

數據更新功能

政務服務能力專題庫:建設政務服務能力專題庫,實現專題庫的規劃、建庫與維護,

16

并提供數據更新功能

城市綜合體專題-城市立方體模型專題庫:建設城市立方體模型專題庫,實現專題

庫的規劃、建庫與維護,并提供數據更新功能

城市綜合體專題-社區畫像專題庫:建設社區畫像專題庫,實現專題庫的規劃、建庫

與維護,并提供數據更新功能

數據管理子系統

建立數據管理子系統:主要實現數據架構管理、數據關系管理、數據分級分類管理、

數據異常管理、數據分析管理、數據流程管理、流數據處理、知識圖譜、數據分層管理、

數據運維管理、數據資產管理功能。

.1數據架構管理

數據中心管理:對市級數據庫進行物理中心或邏輯中心的管理功能開發

數據源管理:開發維護一個數據集存儲服務所需數據庫的鏈接和定位的功能

數據集管理:開發實現對數據交換業務及各部門發布數據集的下載、查閱、可視化

展示及統計定制等的功能

數據物化管理:開發數據物化是在數據資源目錄的數據持久化管理的功能

.2數據關系管理

數據關聯管理:開發針對兩個或多個數據對象進行關系的定義與維護,關聯關系可

到字段級,并支持建立一對多和多對多的關系映射的功能

數據版本管理:開發針對單個數據對象在不同時期變更的結構進行定義與維護,可

支持多版本比對和歷史數據追溯等功能

17

.3數據分級分類管理

基礎標簽管理:開發以列表形式和智能推薦形式將平臺中設置的基礎標簽進行呈現

列表形式是將所有的基礎標簽——列出,并可以按照熱度進行排序智能推薦形式是指根

據最近時間段內的標簽的訪問頻率、搜索頻率等,以輪播的形式循環展現熱門標簽的功

標簽關系展現:開發通過標簽將相關聯的數據目錄關聯在動圖中展現給用戶,形成

豐富數據盛筵的展示效果,做到通過一張圖就可以將某一條數據的關聯數據、以及數據

之間的關系全部展示出來的功能

標簽云:開發通過標簽訪問次數統計出熱門標簽,讓平臺運維人員了解哪些標簽是

訪問頻率高的、是符合用戶訪問習慣的,并結合用戶的搜索記錄,優化標簽設置,使之

更通用和人性化的功能

.4數據異常管理

異常對接管理:開發可以對接數據交換總線、數據集成總線、數據服務總線系統中

異常日志模塊的功能。

異常問題列表:開發展示異常問題信息,按等級進行分類或主動推送,同時對異常

問題進行歸類整理,并定義規則進行選擇性忽略或提醒的功能。

人工處理管理:開發人工處理管理是記錄針對異常信息,人工處理所登記的臺賬信

息,可按照異常分類進行分類授權,實現指定問題的指定人員處理的功能。

系統處理管理:開發統處理管理是針對異常信息集成的各子平臺系統處理結果的收

集,該類信息往往不需要人工干預的功能。

異常處理統計分析:開發按照異常分類、處理情況、時間、等級等維度進行分類統

18

計,以圖表的形式展現便于管理人員匯總分析的功能。

.5數據分析管理

分析算法管理:開發集成并提供統計、分類、聚類、序列等分析工具集,提供調用

接口的功能

預制模型管理:開發模型預制及自定義管理功能提供可選擇的預制模型,可基于業

務問題,來決定可以選擇哪些可用的已有模型的功能

數據變換管理:開發提供將數據變換或統一成適合于數據分析挖掘的形式的功能

模型評估管理:開發模型質量的評估功能支持的評價指標有:平均誤差率、判定系

數R2、正確率、查全率、查準率

模型訓練與優化管理:開發模型訓練及優化功能,對評估中的欠擬合或者過擬合的

模型進行優化的功能

分析可視化組件:開發對基礎的各類可視化組件進行封裝,支撐應用層模型展現的

功能

.6數據流程管理

工作流分類:開發系統支持自定義工作流的分類和維護的功能

可視化流程工具:開發可對數據管理相關業務流程進行可視化編排的功能

流程維護:開發工作流維護管理便捷,可以對工作流設置進行重新定義,工作流的

修改或刪除不影響原來已完成和正在流轉的工作流的功能

流程監控:開發可以按照查詢條件監控流程的流轉情況,包括審批的狀態和結果的

功能

流程發布:開發流程需要發布后才能使用,發布前的修改對用戶不產生影響的功能

19

流程導入導出:開發流程可采用xml文件進行導入導出備份,提供流程嵌套功能,

支持多個、多級子流程嵌套的功能

.7流數據處理

實時采集:主要應對海量數據進行高性能的實時數據采集處理,以實時、高效、低

延遲為核心驅動點,具備毫秒級數據觸發能力,實現秒級單位時間窗口的數據統計分析

能力。需要支持的數據源類型可以分為以下四類:

?網絡協議數據源,包括SocketJMS,HTTP、HTTPS等常見類型的網絡協

議。

?本/異地文件數據源,包括目錄掃描、文本文件,FTP,SDTP等數據。

?分布式文件系統數據源,包括HDFS,HBase,Hive等數據。

?關系型數據庫數據源,包括DB2,Teradata,vertica等數據。

?支持物聯網網關采集:將物聯網數據從物聯網網關接入,提供協議適配和標準

化處理,以及滿足海量物聯網數據的入湖。

來自多種數據源的實時信息,因為其時效性高,數據的有效期短暫,需要實時提取

和分析來自各種分布式系統的信息,并分發到不同的應用中進行處理。同時,系統必須

高效、可靠、可管理、可監控并且具有一定的對外開放能力。

流數據引擎:開發提供數據融合,統計,分析的高速處理能力,對于實時性要求較

高的數據計算提供支撐的功能

流數據計算模型管理:開發提供對已設計完成的數據計算模型進行申請,注冊,提

交,執行,監控的統一管理的功能

流數據計算公共模型開發:開發提供對于場景需求較多的數據模型可開發公共模型

20

的功能,公共模型可以供其他用戶調用,可重復使用的功能

流數據計算結果接口開發:開發提供對流數據計算結果接口開發功能和計算結果數

據可通過接口形式供可視化調用或其他應用的功能

流數據計算模型查詢:開發提供流數據計算模型查詢功能,通過對流數據計算模型

發布可以是其他用戶查看計算模型邏輯,進行模型再利用,減少其他用戶開發工作量的

功能。

支持流媒體采集及轉發管理:針對音頻、視頻等流媒體提供數據采集功能,同時配

套流媒體數據存儲和快速檢索功能,同時需要采集對應流媒體設備的系統參數、通道參

數、網絡參數、外設設備參數、以及外設設備的地理位置等。

.8知識圖譜

知識圖譜用節點和關系所組成的圖譜,為真實世界各個場景進行直觀地建模,通過

不同知識的關聯性形成一個網狀的知識結構,即機器所能理解的圖譜,后續通過機器學

習技術對知識圖譜結果持續優化。

"知識圖譜圖計算服務=圖存儲+圖計算引擎",具有復雜關系的知識圖譜以圖數

據庫的方式進行存儲和運算,大大提高了基于復雜關系進行分析和推理的效率。

圖數據庫更適合多對多關系、高價值的關系、基于關系的大規模和低延時數據的、

方便關系擴展類的應用。同時需要提供圖數據庫二次開發:開發提供二級索引,全文檢

索、模糊檢索等能力,開源標準圖交互式查詢語言接口,支持點對點關系信息的功能。

.9數據分層管理

數據層級模型設計:開發數據層次設計功能模塊,提供數據層次設計管理功能。

數據層級模型算法開發:數據層次模型算法功能模塊的開發,提供數據層次模型算

21

法管理功能。

數據層級庫表建立:數據各層級數據庫庫表創建功能開發。

數據層級管理功能開發:對接管理功能開發,支持對接各子系統,實現數據分層管

理功能。

數據層級元數據管理開發:開發元數據管理功能,提供元數據定義、采集、管理等

功能。

數據層級分析算法功能開發:數據分層分析算法管理的功能開發。

.10數據運維管理

監控運維:監控運維為數據開發者和維護者提供一站式的數據運維管控能力,可自

主管理作業的部署、作業優先級、以及生產監控運維平臺提供數據監控運維、任務運行

情況監控、異常情況告警、日常運維數據統計等功能。

運維概覽:運維概覽主要用來展示調度任務的指標數據情況,目前包括任務完成情

況、任務運行情況、任務執行時長排行、調度任務數量趨勢、近一月出錯排行、任務類

型分布、30天基線破線次數排行。

運維任務:可視化展示調度任務DAG圖,方便數據運維管理。

1)提供任務運行狀態監控告警

2)提供單任務重跑、多任務重跑、kill、置成功、暫停等操作

3)提供列表和DAG兩種模式

4)實現針對周期運行、測試運行、手動運行任務查看任務運行狀態

5)實現針對任務進行重跑、停止、查看運行日志、查看節點代碼、查看節點屬性。

監控告警:監控告警是調度任務的監控保障系統,當任務出現錯誤時,系統會通過

22

預定義的方式告知任務失敗才是供按照自定義規則來配置告警規則,及時調整任務產出,

保障產出數據的及時性和可用性。

實時分析:實時分析主要面向數據分析師開放的功能,依托于實時分析引擎,提供

方便快捷的數據查詢和結果分析。

統一流程管理:面向不同用戶提供不同監控視角的統一數據地圖功能開發。

數據運維定制化開發:按照大數據資源平臺的整體功能要求,提供數據運維可擴展

的定制化功能。

平臺運維定制化開發:按照大數據資源平臺的整體功能要求,提供平臺運維可擴展

的定制化功能。

.11數據資產管理

數據資產:資產管理主要是針對數據資產類目編制的過程梳理、明確職責等內容,

同時也可以對數據表的元數據信息進行有效管理

資產總覽:資產總覽從數據規模、類目分布、熱門訪問等多個角度,對數據資源平

臺上的數據資產狀況進行全景式展現。

資產目錄:資產目錄是對平臺元數據的有序組織,是記錄數據體系的保障數據類目

是目錄信息與服務、保障與支撐所組成的一個整體針對資產的合理組織,需要對資產進

行對應分類,如部門類目、主題類目、行業類目等,可對該類目下資產數據進行搜索、

展現以及權限申請。

資產報告:針對整體平臺上的對應數據,提供定周期了解其對應資產情況,對總體

資產情況進行分析。

資產地圖:數據地圖面向數據開發者,匯聚用戶所有數據信息,通過元數據信息收

23

集、數據血緣探查、數據權限申請授權等手段,幫助數據資源平臺完成數據信息的收集

和管理,解決數據資源平臺數據開發者有哪些數據可用、到哪里可以找到數據的難題,

并且提升數據資源的利用率。

數據治理子系統

擴展數據治理子系統:通過國家資源管理子系統實現資源申請、撤銷、審核、查詢、

配置、目錄管理、業務流程對接、監控模塊對接等功能。

國家資源申請模塊:開發資源申請功能,供資源需求方進行資源申請管理

資源撤銷模塊:開發資源撤銷功能,供資源提供方進行資源撤銷管理

資源審核模塊:開發資源審核功能,供主管部門進行資源申請的審核管理

查詢模塊:查詢已上線的所有資源及已發布的資源管理功能開發

消息管理模塊:查看申請審核消息、待辦消息、預警消息的消息管理功能開發

配置管理模塊:配置管理功能開發,提供配置庫表、文件資源申請審核、服務接口

申請審核等功能

應用及事項管理模塊:應用及事項管理功能開發,提供服務事項管理、政務事項管

理等功能

使用單位對接模塊:將本區數據共享交換平臺使用單位信息注冊到市數據共享交換

平臺的功能開發

目錄對接模塊:目錄對接功能開發,提供下發目錄接口秘鑰、更新授權秘鑰、目錄

分類獲取、目錄分類注冊、目錄分類變更、目錄分類撤銷管理等功能

資源對接模塊:資源對接功能開發,提供庫表資源對接發布、庫表資源對接訂閱、

庫表資源對接變更、庫表資源對接撤銷管理等功能

業務流程對接模塊:業務流程對接功能開發,提供市數據共享交換平臺對接管理功

24

通知管理模塊:通知管理功能開發,提供通知下發管理等功能

對接監控模塊:監控目錄及資源對接運行情況的功能開發

大數據綜合應用

根據宏觀經濟、市場運行、民生幸福、城市立方體等專題應用的建設的要求,構建

大數據綜合應用示范輔助領導決策。

建立事件服務功能,主要實現事件規則定義、事件管理功能。

規則定義:事件規則定義提供簡單事件的定義、復雜事件的組合規則定義,通過過

濾、聚合和關聯識別事件。

事件采集:時間采集提供事件采集的適配接口和信息轉換,支持實時接收各系統的

事件信息,完成信息的標準化處理。

事件處理:事件處理提供多事件并發處理的進程管理,對事件數據流進行大任務高

并發的處理。

事件管理:開發事件管理功能,實現復雜事件的事件列表查看、事件處理等功能。

事件分發:事件分發是將事件下發給事件的訂閱者,用于事件驅動型的業務觸發。

在數據服務和事件服務的雙重支撐下,構建應用管理中心支撐數據應用,為各部門

提供優質的數據服務。

.1宏觀經濟專題

經濟運行監測:開發包括GDP運行態勢、工業增加值趨勢、投資及消費趨勢、對

外貿易進出口運行態勢、價格水平運行態勢、金融運行態勢的經濟運行監測專題分析展

示功能

25

宏觀經濟預測:開發包括GDP增速預測、工業增加值增速預測、M2增速預測,

CPI預測的宏觀經濟預測專題分析展示功能

宏觀景氣指數預測:開發包括宏觀預警指數、宏觀一致指數、宏觀先行指數、宏觀

滯后指數的宏觀景氣指數預測專題分析展示功能

市場主體發展:開發包括市場主體數量分析、區域活力分析、行業活力分析的市場

主體發展專題分析展示功能

人口和就業:開發包括全市及各區人口情況、就業情況、人力資源情況的人口和就

業專題分析展示功能

.2市場運行專題

主體準入分析:開發包括主體市場準入分析、主體市場退出分析、主體變遷分析的

主體準入專題分析展示功能

產業結構調整:開發包括產業結構分布、產業結構調整分析的產業結構調整專題分

析展示功能

主體經營分析:開發包括主體營收分析、主體納稅分析、就業規模分析的主體經營

專題分析展示功能

大眾創業分析:開發包括創業密度、創業熱點行業分布、創業類型、創業年齡分布、

創業者學歷分布、創業生存周期、創業發展、創業與就業的大眾創業專題分析展示功能

中小企業發展:開發包括對中小企業主體數量、分布區域、分布行業、生命周期情

況分析的中小企業發展專題分析展示功能

電子商務發展:開發包括電子商務平臺、電子商務經營者、電子商務交易、電子商

務維權的電子商務發展專題分析展示功能

26

區域市場發展:開發包括產業數量分析、市場主體排名的區域市場發展專題分析展

示功能

.3民生幸福專題

人口大數據首頁:開發包括區域人口密度分布、人口增長趨勢、老齡化趨勢、不同

年齡階段的性別比、流動人口民族構成的人口大數據首頁分析展示功能

人口遷移:開發包括外省市遷入本市的人口分布情況、職業特征、年齡特征、學歷

特征、遷移趨勢特征的人口遷移專題分析展示功能

老齡化及養老:開發包括老齡化發展趨勢、老年配套設施分布及完善情況、老年人

疾病、養老方式、老年消費、老年需求的老齡化及養老專題分析展示功能

流動人口:開發包括流動人口的聚集地分布、流動人口來源地、流動人口轉化為常

駐人口的比例趨勢、流動人口的民族構成、子女入學率、犯罪率、犯罪類型的流動人口

專題分析展示功能

公共安全:開發包括刑事犯罪、交通違章的公共安全專題分析展示功能

食品安全:開發包括食品生產、食品流通、餐飲服務、食品檢測、食品維權、食品

事故的食品安全專題分析展示功能

政務服務能力:開發包括事項分類、辦件數量、辦件來源、跑腿次數、辦理時限、

辦結率、行政相對人、各區熱點事項的政務服務能力專題分析展示功能

.4城市綜合體專題

城市立方體模型:開發包括360度分析展示、區域挖掘分析的城市立方體模型專題

分析展示功能;

社區畫像:開發包括公共能服務能力排名、老齡化排名、學齡兒童排名、人口結構、

27

年齡結構、收入分布、民族結構、學歷分布的社區畫像專題分析展示功能

數據開放子系統

建設數據開放子系統(一期):通過數據應用方管理、開放清單管理、數據開放管

理、開放授權管理等構建全面的數據開放子系統,為數據應用方、數據管理方、外部第

三方等提供數據注冊、身份認證、訂閱分發、開放數據追溯等功能。

實現可配置的數據開放管理,支持配置后流通任務自動分發部署,在供應端與需求

端節點實現標準化的數據接口,數據流通過程可支持標準化業務流程管理,實現自動化、

可機讀的數據流通,其中:數據開放需支持單條實時流通、異步批量流通兩種模式,流

通性能不低于

10,000QPSo

2.L5.5.1數據應用方管理

身份注冊:開發身份注冊功能,提供自然人、法人身份注冊;

身份驗證:開發身份驗證功能,區分使用者身份實現個性化服務,包括通過App或

人臉識別進行身份驗證以及法人用戶通過法人一證通進行身份驗證。

.2開放清單管理

公共數據資源ACL:開發公共數據資源ACL功能,提供公共信息資源目錄的查看,

基于目錄實現數據訪問控制;公共數據資源可根據公共信息資源目錄及供應情況,使數

據使用者獲知公共數據提供的范圍、方式、更新頻率等信息,并整體控制某項數據資源

是否開放;

公共數據服務接口注冊:開發公共數據服務接口注冊功能,實現公共數據服務發布;

使得數據使用者獲知公共數據服務接口與應用的獲取方式、接口形式等信息,控制接口

28

的可用性。

數據應用注冊:開發數據應用注冊功能,實現公共數據應用發布;可管理數據資源

目錄與清單、公共數據服務接口與數據應用的注冊,以及第三方數據服務的注冊。

第三方數據服務支持方服務接口注冊:開發第三方數據服務支持方服務接口注冊功

能,實現第三方數據服務支持方服務接口發布;公共數據服務接口與應用注冊需維護公

共數據服務接口清單,第三方數據服務支持方以接口形式提供應用數據,便于數據使用

者整合使用。提供接口獲取方式等信息,控制接口可用性。

2.L5.5.3數據開放管理

可通過該管理模塊對數據開放進行全過程的管理,不僅需要包括目錄查看、數據信

息項查看、數據應用查看、接口信息查看在內的一般性訪問,還需包括建立與劃分數據

主題,開放數據資源的收藏、訂閱與分發管理。除此之外,還需建立消息定義事件,由

事件驅動事物執行的功能。

數據主題建立:開發數據主題建立功能,建立并管理數據主題

數據主題劃分:開發數據主題劃分功能,建立數據資源與主題的關聯

消息事件管理:開發消息事件管理功能,按照消息定義建立事件,由事件驅動事務

的執行

一般性訪問:開發一般性訪問功能,包括目錄查看、數據信息查看、應用信息查看、

接口信息查看等功能

收藏:開發收藏功能,注冊的訪問者收藏特定的數據集、接口、應用

訂閱:開發訂閱功能,注冊的訪問者可收藏對頻繁更新的同類數據資源

訂閱分發:開發訂閱分發功能,當數據資源更新時,系統根據事件向相關訂閱者推

29

平臺集成門戶

擴展平臺集成門戶:基于統一鑒權中心的基礎上實現多租戶管理,并根據租戶角色

提供開發者門戶(內部X運營門戶以及開放門戶。

并在門戶功能框架下實現消息推送、數據推送、個人信息管理、系統管理等功能。

.1多租戶功能

平臺集成門戶實現多租戶管理功能。

多租戶能力:開發多租戶管理功能,實現按照用戶所屬職責可分為超級管理員,租

戶管理員,普通租戶。可以根據需要創建包括系統管理員、運營人員、開發管理員、開

發者等角色。

租戶管理:開發租戶管理功能,實現以多租戶的思路,將數據

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論