數據中心操作系統（DCOS）技術與方案研究中國移動通信研究院-大數據與IT技術研究所二〇一五年九月提綱1數據中心操作系統架構及特點IT基礎架構發展趨勢架構及服務特點2數據中心操作系統方案對比及行業現狀主流方案對比廠商動態DCOS與IAAS云平臺關系分析3IT基礎架構現狀及愿景打造以應用為中心的高效云服務服務器操作系統應用IT基礎架構發展階段1：裸機時代基礎架構利用率低每臺服務器上運行一個應用程序：避免一個應用程序中的漏洞影響同一服務器上其他應用程序典型的x86

服務器部署平均達到的利用率僅為總容量的10%

到15%（美國國際數據集團(International

Data

Corporation,

IDC)

報告）物理基礎架構成本日益升高為支持不斷增長的物理基礎架構而需要的運營、維護成本穩步攀升。大多數計算基礎架構都必須時刻保持運行，因此耗電量、制冷和設施成本不隨利用率水平而變化。管理成本不斷攀升服務器數量太多難以管理，新服務器和應用的部署時間長，硬件維護需要數天/周的變更管理準備和數小時的維護窗口。

故障切換和災備困難：兼容性差。系統和應用遷移到新的硬件需要和舊系統兼容的硬件系統。服務器操作系統應用操作系統虛擬機操作系統應用虛擬機操作系統應用虛擬機云平臺服務器操作系統IT基礎架構發展階段2：虛擬化時代以虛擬化技術為基礎，以虛擬機為單位，將資源提供給用戶。提高資源利用率將一臺高性能的服務器虛擬成多個虛擬機，在物理上虛擬機共享宿主服務器的硬件資源，而邏輯上各自獨立，可在各虛擬出的服務器上運行不同的應用，各司其職，互不干擾。降低管理、運維成本簡化服務器的部署、管理和維護工作，降低管理費用通過從物理基礎架構抽象應用使數據中心資源管理和調度更敏捷，是對傳統數據中心資源管理模式的變革核心技術計算虛擬化、SDS、SDN、OpenStack管理代表公司亞馬遜aws、VMware、微軟azure、阿里云、華為等服務器應用操作系統應用應用服務器操作系統資源統一管理、調度IT基礎架構發展階段3：以應用為中心時代以分布式應用為核心場景，主打應用生命周期管理。保證應用程序和服務易發布、易擴展，始終能獲得所需要的資源。問題虛擬機構成的集群仍然難以運維，對于每個虛擬機的維護也并非容易，用戶遇到的問題和直接維護物理機集群基本相似用戶需求應用能夠獲取資源，快速啟動，服務可以無限擴展（不在乎怎樣運行及運行在哪），服務失敗時能被自動檢測并修復，應用易于遷移。數據中心操作系統：Datacenter

Operating

System（DCOS）目標整合數據中心資源，進行虛擬池化，開放諸如CPU、內存和I/O這些基本資源而不是虛擬機。就像操作系統將PC的處理器和RAM放入資源池，使其可以為不同的進程協調分配和釋放資源核心技術容器集群資源管理、容器代表公司：Google、Mesosphere、Facebook、Twitter等。yelp使用mesosphere大大提高了數據中心的性能；yelp每天運行大約1700萬獨立測試，啟動100萬個容器。DCOS架構server硬件KernelserverserverserverDataCenter

Operating

SystemJava,PythonandC++APIs/SDKRestful

APIs接口應用Spark，Hadoop，Storm，ElasticSearch，MPIRails，Kafka，Play！DatacenterAsaComputer支持多種計算框架支持多種計算框架的統一集群管理提供全局資源管理和調度資源隔離支持資源隔離。提供一種資源隔離機制避免多種框架不同任務之間由資源爭用導致效率下降。擴展性更高效的管理系統，支持應用的橫向擴展容錯性和自動修復如果一臺服務器發生故障，它的工作負載可以自動遷移到別的地方。高資源利用率將各種框架部署到同一集群中，統一管理調度，各種作業交錯，作業提交頻率大幅度升高，增加資源利用率應用快速部署，便于遷移利用容器封裝，實現多種框架任務之間的隔離保證應用的快速啟動（ms級別），一次打包，到處運行，實現應用的自由遷移。DCOS特點容器技術ServerHost

OSHypervisorGuestOSBins/

LibsMysqlGuestOSBins/

LibsMysqlGuestOSBins/

LibsAPPVirtual

MachinesServerHost

OSBins/

LibsMysqlMysqlContainersBins/

LibsAPPAPPContainersareisolated,butshareOSand,whereappropriate,bins/libraries容器并不包含一個單獨的操作系統，而是基于已有的基礎設施中操作系統提供的功能來運行的。將應用程序及所有程序的依賴環境打包到一個容器中，容器可以運行在任何一種Linux服務器上。這大大地提高了程序運行的靈活性和可移植性。虛擬機是操作系統級別的資源隔離，容器本質上是進程級的資源隔離容器技術實現發展最快和最有代表的是開源Docker技術。Docker是PaaS提供商dotCloud（后改名為DockerInc）

開源的一個基于LXC的高級容器引擎，源代碼托管在Github上,遵從Apache2.0協議開源。Docker核心在于實現應用與運行環境整體打包以及打包格式統一Docker并不是容器技術的唯一選擇提綱1數據中心操作系統架構及特點IT基礎架構發展趨勢DCOS架構及服務特點2方案對比及行業現狀主流方案對比廠商動態DCOS與IAAS云平臺關系分析3IT基礎架構現狀及愿景打造以應用為中心的高效云服務Twitter/eBay:Mesos資源調度應用框架加州大學伯克利分校的AMPLab首先開發的開源群集管理軟件，支持Hadoop、ElasticSearch、Spark、Storm和Kafka等16種架構，于2009年立項；Mesos0.20.0版本(2014.08發布)增加了對Docker的支持生態：2011年開始在生產環境（Twitter/eBay/AirBNB/yelp）使用，生態系統成熟Mesosphere：一家圍繞Mesos開展商業的創業公司，在mesos基礎上吸收了各種開源工具，從而開發出了一套基礎工具，形成針對數據中心的操作系統。系統的名字叫做MesosphereDataCenterOperatingSystem（DCOS）Google/Redhat：KubernetesGoogle主導的分布式容器的資源調度和業務編排系統生態：Docker出現后，2014年Google開源了Kubernetes據說，Google的搜索、地圖、郵箱等服務全部運行在一個服務集群中，這都有賴于Google內部代號為Borg的系統，以及其后繼者Omega，而Kubernetes正是其開源版本。Redhat、IBM、HP、微軟、rackspace，Mesosphere、intel宣布支持Mesosphere、Coreos、Redhat的產品已經將Kubernetes集成進去Docker：Compose/SwarmSwarm/Compose:Docker主導的容器資源調度和業務編排中、小集群場景用戶“開箱即用”，無需安裝額外調度系統生態：IBM、思科、微軟、HP、Vmware等宣布支持狀態：Swarm2015.02月剛剛發布0.1.0版本，只具備filter+strategy基本調度能力功能不完備，缺少容器狀態監控、Autoscaling、HA/FT、錯誤自愈能力Lattice：是由Vmware和Pivotal主導的CF的子項目，容器編排調度系統。Lattice=Diego（容器資源調度、編排能力很弱）+Loggregator（日志）+Gorouter（負載均衡）狀態：Pivotal計劃將Lattice推到CloudFoundry基金會，但進展緩慢，預計2015年10月份推出。IBM/Pivotal/Vmware：LatticeDocker：Swarm/Compose

&

IBM/Pivotal/Vmware：Lattice廠商動態——主要IT公司積極支持容器技術GoogleAWS微軟VMwareRedhat開源Kubernetes，意圖成為容器編排調度的領導者。KubernetesTOP10貢獻者Google、Redhat、canonical、RackspaceGoogle與Mesosphere合作，Kubernetes現在被完全集成到Mesosphere中2014.11發布ECS（EC2ContainerService）服務。提供AWS集群管理調度模塊，也支持客戶自己的集群管理系統2014年7月，微軟與Google、Docker合作，在Auzre上docker和Kubernetes微軟發布AzureServiceFabricPaaS服務，后續將替換kubernete，支持公有云和私有云部署。2015停止對GoogleKubernetes貢獻，推出cloudfoundryLattice應對Kubernetes和dockerSwarm，構筑容器編排與管理能力；社區投入，重點圍繞Docker、Kubernetes項目，是社區中僅次于Docker、Google的貢獻者。以docker和Kubernetes項目為核心，構建了混合云cloudforms和PaaS方案Openshift。Openstack社區集成容器路線跟隨社區。投資CoreOS，培育Docker競爭對手CoreOS，推廣CoreOSAPPC,抑制Docker一家獨大2014.4AWS應用開發平臺Beanstalk支持Docker服務2015年4月，Microsoft發布全新的容器技術：Hyper-V容器和NanoServerVMwarevCloudAir、VMwarevCenter等現有產品上支持Docker，擁抱容器以安全隔離為理由，推Bonnevilla避免VM被弱化。允許開發人員以DockerHub當中的鏡像為基礎創建容器機制，而且每套容器皆擁有自己運行所在的獨立虛擬機環境。自Docker發布以來，積極參與社區成為DBAG成員，并在OS發行版中支持Docker,

2013年11月，RHEL6.5版本就開始支持Docker主要IT公司積極支持docker或推出自己的容器技術，并基于容器技術提供DCOS系統，構建PaaS平臺方案。國內互聯網公司動態國內的互聯網廠商紛紛已經在自己的私有云中開始使用容器技術，并且已經開始推出公有云服務，從使用趨勢上看，首先內部私有云容器化，并基于私有云經驗，提供公有云服務。京東：彈性計算云應用場景：私有云。今年618促銷時，生產環境11000+個docker實例,接入了1000+應用。目前線上實例超2W到年底將再翻兩番,實現大部分應用程序通過容器技術來發布。阿里巴巴：阿里百川應用引擎應用場景：淘寶應用引擎TAE。2014年8月開始規?；褂肈ocker的PaaS平臺，它最近推出了2.0版，作為阿里百川項目的一部分對外開放。騰訊：騰訊游戲應用場景：私有云2014.6開始，接入1000+物理機、約4000個容器。數十個端游、手游、頁游百度：百度基礎平臺和開放云應用場景：私有云、百度開放云平臺為了支撐百度上百個產品的各種需求，百度基礎架構團隊從2013年開始構建集群操作系統來實現資源的靈活調度和最大化利用，系統目前已經覆蓋20萬臺規模的服務器，形成統一的資源池。2014年開始百度推出百度開放云服務，容器技術同樣成為開放云核心競爭力之一。社區動態CNCFOCIOpenStack2015年7月21日，谷歌與眾多行業合作伙伴宣布共同建立一個云計算基金會CloudNativeComputingFoundation目的：與開源社區和合作伙伴一起共同把控Kubernetes未來的發展，開發新的軟件以讓整個容器工具集更加健壯Linux基金會是其中的主要成員，華為也是CNCF成員2015DockerCon大會上，容器技術的Docker與基于Linux內核的輕量級操作系統CoreOS聯合推出了開放容器項目OpenContainerProject，后改名為OCI（Open

Container

Initiative）目標：實現容器鏡像格式與運行時的標準化。分工：Docker將為項目貢獻其容器格式、運行時代碼并提供規范。而AmazonWebServices、Apcera、思科、CoreOS、Docker、EMC、富士通、高盛、Google、HP、華為、IBM、英特爾、Joyent、LinuxFoundation、Mesosphere、微軟、Pivotal、RancherLabs、RedHat以及VMware將圍繞著容器格式和運行時建立標準目前OpenStack與容器相關的三個項目：Nova-DockerHeat插件Magnum項目：得到社區大力支持，實現了Openstack下容器集群自動化部署和統一管理，可能是OpenStack與容器未來融合的方向。2015年7月，Google加入OpenStack，將確保Kubernetes融入OpenStack平臺。DCOS與IAAS云平臺互補，而非顛覆優缺點互補IAAS在安全性、隔離性、存儲、網絡等方面已經有比較成熟的解決方案，DCOS在這些方面仍有不足DCOS并未完全顛覆目前的IAAS服務，主流的DCO