并行計算概述詳解演示文稿現在是1頁\一共有27頁\編輯于星期一（優選）并行計算概述現在是2頁\一共有27頁\編輯于星期一并行計算概述3并行:古老的思想!“...并行計算并不是什么新的思想,只是將它擴展應用于計算機而已”.作者也不認為這種擴展應用會存在什么無法克服的困難.但也不要期待有效的并行編程方法與技術能夠在一夜之間誕生.期間還需要有許多的工作和實驗要做.畢竟,今天的編程技術(串行)是若干年來艱苦的探索才取得的.現在編程工作似乎成了一種令人單調乏味的工作,事實上,并行編程的出現將會使重新恢復編程工作者們的探索精神...”(Gill,S.(1958),“ParallelProgramming”

TheComputerJournal,vol.1,April,pp.2-10.)ParallelProgrammingwithMPIbyPeterPacheco(2000)現在是3頁\一共有27頁\編輯于星期一并行計算--高性能計算并行計算(ParallelComputing）

高端計算(High-endParallelComputing)

高性能計算(HighPerformanceComputing)

超級計算(SuperComputing)

任何高性能計算和超級計算都離不開使用并行技術Thesimultaneoususeofmorethanonecomputertosolveaproblem.由由運行在多個部件上的小任務合作來求解一個規模很大的計算問題的一種方法4現在是4頁\一共有27頁\編輯于星期一什么是高性能并行計算機由多個計算單元組成，運算速度快、存儲容量大、可靠性高的計算機系統。也稱為：巨型計算機、超級計算機目前任何高性能計算和超級計算都離不開使用并行技術，所以高性能計算機肯定是并行計算機。5現在是5頁\一共有27頁\編輯于星期一并行計算的概念6現在是6頁\一共有27頁\編輯于星期一串行計算與并行計算并行計算概述7現在是7頁\一共有27頁\編輯于星期一為什么要做并行計算？

－－應用需求8現在是8頁\一共有27頁\編輯于星期一9現在是9頁\一共有27頁\編輯于星期一計算科學與傳統的兩種科學，即理論科學和實驗科學，并列被認為是人類認識自然的三大支柱，他們彼此相輔相成地推動科學發展與社會進步。在許多情況下，或者是理論模型復雜甚至理論尚未建立，或者實驗費用昂貴甚至無法進行時，計算就成了求解問題的唯一或主要的手段。為什么要做并行計算？

－－應用需求10現在是10頁\一共有27頁\編輯于星期一為什么要做并行計算？人類對計算及性能的要求是無止境的從系統的角度：集成系統資源，以滿足不斷增長的對性能和功能的要求

從應用的角度：適當分解應用，以實現更大規模或更細致的計算11現在是11頁\一共有27頁\編輯于星期一為什么要做并行計算？問題:科學和工程問題的數值模擬與仿真計算密集數據密集網絡密集三種混合要求:在合理的時限內完成計算任務秒級 制造業分鐘級 短時天氣預報(當天)小時級 中期天氣預報(3~10日)盡可能快 長期天氣預報(氣候)可計算 湍流模擬12現在是12頁\一共有27頁\編輯于星期一13現在是13頁\一共有27頁\編輯于星期一其發展歷程可以簡單的分為兩個時代專用時代

包括向量機，MPP系統，SGINUMA系統，SUN大型SMP系統，也包括我國的神威，銀河，曙光1000等。

之所以稱為“專用”，并不是說它們只能運行某種應用，是指它們的組成部件是專門設計的，它們的CPU板，內存板，I/O板，甚至操作系統，都是不能在其它系統中使用的。由于技術上桌面系統與高端系統的巨大差異，和用戶群窄小。普及時代

高性能計算機價格下降，應用門檻降低，應用開始普及。兩個技術趨勢起到重要作用。

商品化趨勢使得大量生產的商品部件接近了高性能計算機專有部件

標準化趨勢使得這些部件之間能夠集成一個系統中，其中X86處理器、以太網、內存部件、Linux都起到決定性作用。

機群系統是高性能計算機的一種，它的技術基礎和工業基礎都是商品化和標準化。14現在是14頁\一共有27頁\編輯于星期一Top500中的超級計算機地球模擬器ASCIQASCIWhite15現在是15頁\一共有27頁\編輯于星期一EarthSimulatorEarthsimulatorcenterNecRmax:35.86Tflops8*8*640現在是16頁\一共有27頁\編輯于星期一EarthSimulator現在是17頁\一共有27頁\編輯于星期一EarthSimulator現在是18頁\一共有27頁\編輯于星期一ASCIQ1024nodes8cpu/node10240Gflops7727Gflops現在是19頁\一共有27頁\編輯于星期一ASCIwhiteLLNLIBMSPpower3Rmax7.22Tflops現在是20頁\一共有27頁\編輯于星期一曙光1000曙光1000有36個結點機;峰值計算速度為浮點25.6億次/秒，實際達到15.8億次/秒；內存容量為1024兆字節；基于Wormhole機制的二維Mesh通訊網，結點與網絡通訊總帶寬為2.88GB/秒；采用基于UNIX的并行操作系統和并行文件系統；現在是21頁\一共有27頁\編輯于星期一并行計算機-CRAYSystemName Jaguar1059000GFlopsSystemFamily CrayXTOperatingSystemCNLInterconnect XT4InternalInterconnectProcessor AMDOpteronQuadCore2300MHz(9.2GFlops)現在是22頁\一共有27頁\編輯于星期一并行計算機-IBMSystemName Roadrunner1105000GFlopsSystemFamily IBMClusterOperatingSystemLinuxInterconnect InfinibandProcessor PowerXCell8i3200MHz(12.8GFlops)現在是23頁\一共有27頁\編輯于星期一并行計算機-DAWNINGSystemName Dawning5000A 180600GFlopsSystemFamily DawningClusterOperatingSystemWindowsHPCserver2008andSUSEInterconnect InfinibandDDRProcessor AMDOpteronQuadCore1900MHz(7.6GFlops)現在是24頁\一共有27頁\編輯于星期一并行計算機所用的處理器AMDOpteronXeonNoconaIntelItaniumCompaqAlphaHPPA-RISCSunUltraSPARCIBMPOWER5+,POWER6IBMBlueGeneprocessorMIPSR10000龍芯現在是25頁\一共有27頁\編輯于星期一最新TOP500cpu分布現在是26頁\一共有27頁\編輯于星期一并行機處理器-AMDPERFORMANCE1-WAYPERFORMANCE2-WAYPERFORMANCE4-WAYAND8-WAYAMDOpteron?200Series&2000SeriesProcessorsDesignedfor2-wayServer/WorkstationsolutionsFirstnativex86dual-coresolutionfor2-waycomputingAMDOpteron?100Series&1000SeriesProcessorsDesignedfor1-wayServer/WorkstationsolutionsFirstnativex86dual-coresolutionfor1-waycomputingAMDOpteron?800Series&8000Serie