1、本科生課程大綱課程名稱并行編程原理與程序設計課程代碼081513101257課程屬性專業知識課時/學分48/2.5課程性質選修實踐學時16責任教師 課外學時48(32+16)課程屬性：公共基礎/通識教育/學科基礎/專業知識/工作技能，課程性質：必修、選修一、 課程介紹 1.課程描述：并行編程原理與程序設計是地球信息科學與技術專業的必修課，也是勘查技術與工程專業的選修課。地球物理信息解譯中的計算量十分龐大，常規串行電腦和軟件無法解決地球物理資料的解譯問題，必須采用并行算法合并行計算機來解決地球物理資料的處理、解釋合反演工作。目前，微機群和GPU機群在地球物理領域的應用日益廣泛，“地球信息科學與技

2、術”和“勘查技術與工程”專業必需掌握并行編程的基本原理與方法才能實現地學信息高效解譯得目的，本課程主要學習基于微機群的MPI程序設計方法和基于GPU集群的CUDA程序設計方法，并進行適當的上機實踐。通過本課程的學習，可使學生了解和掌握大型科學與工程問題中的基本并行編程技術，初步具備編寫大型并行應用程序的能力。2.設計思路：本課程的講授內容主要包括兩大部分：第一部分：MPI并行程序設計部分：第一章 并行程序設計基礎主要內容：并行計算；并行編程模型與并行語言；并行算法第二章 MPI簡介主要內容：什么是MPI；MPI的目的，產生與發展；MPI的語言綁定；目前主要的MPI實現；SPMD并行機上并行程序

3、的執行過程第三章 第一個MPI程序主要內容：MPI實現的“Hello World”；c與Fortran語言的MPI程序的一些慣例第四章 六個接口構成的MPI子集主要內容：子集介紹；MPI預定義的數據類型；MPI數據類型匹配與數據轉換；MPI消息； 第五章 簡單的MPI程序示例主要內容：獲取機器名字和MPI版本號；數據接力傳送；任意進程間互相問候，任意源和任意標識的使用；編寫安全的MPI程序 第六章 MPI并行程序的兩種基本模式主要內容：對等模式的MPI程序設計；主從模式的MPI程序設計，標準通信模式的特點與消息傳遞過程第七章 不同通信模式MPI并行程序設計主要內容：四種通信模式（標準，緩存，同

4、步與就緒），了解集中通信模式的劃分依據，掌握四種通信模式的優缺點及實現方式第八章 非阻塞通信MPI程序設計主要內容：阻塞通信；非阻塞通信簡介；非阻塞標準發送與接收；非阻塞通信與其他三種通信模式的結合；非阻塞通信的完成第九章 組通信MPI程序設計主要內容：組通信的消息通信功能，同步功能和計算功能；廣播；收集；散發；組收集；全互換、同步、歸約、組歸約、歸約并散發操作的函數形式、使用方法與執行過程；幾個相關示例程序第二部分：CUDA并行程序設計部分： 第一章 引言主要內容：異構并行算法，現代GPU的體系結構，為什么需要更高的速度和并行化，應用程序加速，并行編程語言和模型 第二章 GPU計算的發展歷程

5、主要內容：圖形流水線的發展，固定功能的圖形流水線時代，可編程實時圖形流水線的發展，圖形與計算結合的處理器，GPGPU：一個中間步驟，GPU計算，可擴展的GPU，發展近況，未來的發展趨勢第3章 CUDA簡介主要內容：PC架構，GPU硬件結構，CPU與GPU，數據并行性，CUDA的程序結構 第4章 CUDA環境搭建主要內容：簡介，在Windows下安裝軟件開發工具包，Visual Studio，工程，64位用戶，創建工程，Linux，安裝調試器，編譯模型，錯誤處理 第5章 線程網格、線程塊以及線程，主要內容：簡介，線程，問題分解，CPU與GPU的不同，任務執行模式，GPU線程，CUDA內核，線程塊

6、，線程網格，跨幅與偏移，X與Y方向的線程索引，線程束，分支，GPU的利用率，線程塊的調度第6章 數據并行執行模型，主要內容：向量加法kernel函數，設備全局存儲器與數據傳輸，kernel函數與線程，函數聲明，啟動kernel函數，預定義變量，CUDA的線程組織，線程與多維數據映射，矩陣乘法一個更加復雜的kernel函數，線程同步和透明的可擴展性，線程塊的資源分配，線程調度與容許時延第三部分：上機實踐部分： 本課程實踐部分的設計思路為：以并行程序設計的方法為主線，結合地學信息處理中的實際問題，讓學生掌握MPI和CUDA程序設計的基本方法和技能。課程內容包括三個模塊：MPI和CUDA程序設計軟件

7、環境的設置與相關軟件的安裝、數值積分的并行求解設計與編程、聲波方程正演模擬問題的并行設計與編程。（1）MPI和CUDA程序設計軟件環境的設置與相關軟件的安裝： 實現不同計算機硬件和操作系統條件下MPI軟件的安轉與編程環境的設置，實現不同計算機硬件和操作系統條件下CUDA軟件的安裝與編程環境的設置。（2）數值積分的并行求解設計與編程：給定地學信息解譯中的常見的數值積分問題并設計其并行求解方案，實現該類問題的并行高效求解。（3）聲波方程正演模擬問題的并行設計與編程：給定地學信息解譯中的常見的二維聲波方程正演模擬問題并設計其并行求解方案，實現該類問題的并行高效求解。3. 課程與其他課程的關系先修課程

8、：C程序設計，或FORTRAN程序設計。本課程還與彈性波動力學、電磁場論、地球物理資料處理等課程密切相關，本課程是解決上述課程中大型科學計算問題的必不可少的工具。二、課程目標本課程的目標是培養學生的并行編程思路和能力，初步具備編寫大型并行應用程序的能力，培養能用并行計算機和并行技術解決地球物理信息解譯問題的工程技術人才。（1）掌握MPI程序設計基本思路與方法，掌握MPI并行軟件的安轉與并行編程環境的設置方法。（2）掌握CUDA程序設計基本思路與方法，掌握CUDA并行軟件的安轉與并行編程環境的設置方法。（3）培養學生并行程序設計能力，通過上機訓練，達到利用并行計算機和并行程序解決復雜工程問題的能

9、力。三、學習要求并行編程原理與程序設計是一門實踐性較強的課程，作為一名地球物理方向的大學生，不僅需要一定的數、理和地質、地球物理的基礎，同時還需要掌握利用先進的并行計算機解決地學問題的基本技能與方法。通過本課程教學，一方面要掌握并行編程的基本思路與方法，另一方面還要培養和提高學生的實踐能力，能夠編寫并行程序解決地學信息解譯中的工程問題。要達到以上學習任務，學生必須：（1）按時上課,上課認真聽講，積極參與課堂討論、作業典型案例分析。本課程將包含較多的課下作業、討論、小組作業展示等課堂活動。（2）保質保量的按時完成上機作業，只有在作業中才能夠不斷掌握所學習的內容。（3）理論學習和上機實踐的基礎上，

10、要在大學生創新創業計劃和畢業設計等課程中利用本課程的相關知識解決實際問題，提升自己的并行編程能力。四、教學進度序號專題或主題計劃課時主要內容概述一 MPI程序設計部分1第1章 并行程序設計基礎1并行計算；并行編程模型與并行語言；并行算法2第2章 MPI簡介1什么是MPI；MPI的目的，產生與發展；MPI的語言綁定；目前主要的MPI實現；SPMD并行機上并行程序的執行過程3第3章 第一個MPI程序1MPI實現的“Hello World”；c與Fortran語言的MPI程序的一些慣例4第4章 六個接口構成的MPI子集4子集介紹；MPI預定義的數據類型；MPI數據類型匹配與數據轉換；MPI消息5第5

11、章 簡單的MPI程序示例3獲取機器名字和MPI版本號；數據接力傳送；任意進程間互相問候，任意源和任意標識的使用；編寫安全的MPI程序6第6章 MPI并行程序的兩種基本模式4對等模式的MPI程序設計；主從模式的MPI程序設計，標準通信模式的特點與消息傳遞過程7第7章 不同通信模式MPI并行程序設計3四種通信模式（標準，緩存，同步與就緒），了解集中通信模式的劃分依據，掌握四種通信模式的優缺點及實現方式8第8章 非阻塞通信MPI程序設計3阻塞通信；非阻塞通信簡介；非阻塞標準發送與接收；非阻塞通信與其他三種通信模式的結合；非阻塞通信的完成9第9章 組通信MPI程序設計4組通信的消息通信功能，同步功能和

12、計算功能；廣播；收集；散發；組收集；全互換、同步、歸約、組歸約、歸約并散發操作的函數形式、使用方法與執行過程；幾個相關示例程序二 CUDA程序設計部分1第1章 引言1異構并行算法，現代GPU的體系結構，為什么需要更高的速度和并行化，應用程序加速，并行編程語言和模型2第2章 GPU計算的發展歷程1圖形流水線的發展，GPGPU：一個中間步驟，GPU計算 3第3章 CUDA簡介 1PC架構，GPU硬件結構，CPU與GPU，數據并行性，CUDA的程序結構4第4章 CUDA環境搭建1簡介，在Windows下安裝軟件開發工具包， Visual Studio，Linux，安裝調試器，編譯模型錯誤處理5第5章

13、線程網格、線程塊以及線程2簡介，線程，線程塊，線程網格，線程束，線程塊的調度6第6章 數據并行執行模型2向量加法kernel函數，設備全局存儲器與數據傳輸，kernel函數與線程，CUDA的線程組織，線程與多維數據映射，矩陣乘法一個更加復雜的kernel函數，線程同步和透明的可擴展性，線程塊的資源分配，線程調度與容許時延三 上機實踐部分1MPI和CUDA的安裝與編程環境設置4MPI軟件的安裝，MPI編程環境的設置，CUDA軟件的安裝，CUDA并行環境的設置2數值積分的MPI并行求解4編寫程序實現數值積分問題的并行求解3二維聲波方程的并行實現8編寫程序實現二維聲波方程的并行求解五、參考教材與主要

14、參考書1、參考教材：高性能計算并行編程技術MPI并行程序設計都志輝清華大學出版社第一版2、主要參考書：MPI與OpenMP并行程序設計（C語言版）MichaelJ.Quinn著，陳文光衛等譯清華大學出版社第一版并行算法實踐 陳國良 高等教育出版社 第一版并行計算-結構.算法.編程 陳國良 高等教育出版社 第一版并行算法的設計與分析 陳國良 高等教育出版社 修訂版并行計算導論 張林波等 清華大學出版社 第一版消息傳遞并行編程環境 MPI 陸新民 林鵬 科學出版社 第一版大規模并行處理器編程實戰DavidB.Kirk，Wen-meiW.Hwu著趙開勇汪朝輝程亦超譯，清華大學出版社第二版CUDA并行程序設計（GPU編程指南）ShaneCook著，蘇統華、李東、李松澤、魏通譯，馬培軍審校，機械工業出版社第一版六、成績評定（一）考核方式 A