1、嵌入式系統的低能耗軟件設計方法郭 兵四川大學2018年5月26日 提綱一、背景三、主要方法2二、實現目標四、三點探討3全球大背景全球氣候變暖等環保問題和中國的綠色發展政策。計算機領域的節能減排問題：2%，第五位。智能手機、平板電腦等電池驅動的智能移動互聯嵌入式系統的普及。一、背景 綠色計算要求4目前智能嵌入式系統中，主要考慮三項重要的設計目標：多樣化功能與服務：移動電話還是移動PC？高性能：CPU、GPU、NPU、顯示器、WiFi 接口等。便攜性：電池的尺寸和容量相對有限，影響系統的續航能力與服務的可用性。低能耗軟件設計需求后PC時代耗電比較環境影響“無處不在的嵌入”，年銷量達200億臺，關鍵

2、的全球計算基礎設施。低能耗軟件設計方法2013年耗電3650億千瓦時，是服務器耗電量的1.54倍。軟件是硬件的消費者與管理者，“間接”導致系統能耗的產生。“后摩爾時代”，軟件的低能耗設計成為控制系統能耗的重要手段。同電力網絡緊密相連，運行導致大量的CO2排放，產生嚴重的環境影響。新的計算需求52016年4月15日，綠色計算產業聯盟(Green Computing Consortium,簡稱“GCC”)成立。6提高電池等儲能設施的能量密度，鋰電池 燃料電池/超級電容/石墨烯電池/納米材料電池等；增加無線供電/太陽能薄膜/機械振動等新的供電方式。開源措施7在電池容量限制的條件下，提高系統運行時的能

3、量計算效率問題（即能效比，表示單位功耗產生的計算能力，單位為FLOP/Watt或MIPS/Watt），避免片面追求計算能力、存儲能力和通信能力，如芯片加工工藝的進步，系統體系結構的改進。加強系統空閑時間的電源管理，減少能量的無謂損耗。計算和數據遷移：計算能耗遠大于傳輸能耗的條件下，可將計算負載從終端遷移到云端或邊緣端，如語音和圖像的云識別。 在“開源”有限的情況下，“節流”成為延長系統續航能力和提高可用性的一個重要途徑。節流措施8 1999年，DARPA（美國國防部高級研究計劃署）啟動PAC/C（Power-Aware Computing and Communications感功計算與通信）計

4、劃，研究內容非常廣泛，涉及到計算機系統的所有方面，包括芯片、體系結構、編譯器、操作系統、網絡通信、實時系統、分布式系統到應用工程等多個技術層次，開發各種相關策略、算法、協議、工具和設備，為系統提供一個完整的功耗解決方案。 PAC/C計劃 9硬件層：電路級解決負載電容、供電電壓和時鐘頻率等問題；邏輯級解決電路結構和邏輯設計風格等問題；微結構級解決指令級并行、部件分配與調度和智能功率控制等問題。軟件層：源程序結構級考慮源程序的語法邏輯結構對軟件功耗的影響；算法級考慮算法處理的流程和步驟對軟件功耗的影響；軟件體系結構級考慮軟件體系結構的選擇和變換對軟件功耗的影響系統層：系統級側重于軟/硬件協同、交互

5、、控制和管理等措施，如軟/硬件劃分與交互等。低能耗建模與優化的主要層次10不同層次所考慮的問題和方法是不一樣，如在電路級，著眼于供電電壓、時鐘頻率和負載電容等因素；在微結構級，主要是對CPU的流水線和并行結構進行改進，降低能耗。不同層次并不是相互獨立的，為達到同一個優化目標往往可在多個層次上進行設計，如為了降低電路的有效翻轉率（或切換活動因子），可采用在系統級改變系統的軟/硬件劃分、邏輯級改變具體門電路的邏輯安排等措施，一般高層服務需要下層服務的支持，高層次的措施通過低層次的措施發揮作用。不同層次的設計能夠降低的能耗比例也不一樣，技術層次越高，能耗降低的效果越明顯，如通過在系統級軟/硬件劃分可

6、能降低電路30%的翻轉率，而通過在邏輯級重新安排邏輯結構卻只能降低5%的翻轉率。不同層次的措施，開發工作量也會有所不同，如軟/硬件劃分時，需要進行大量的分析和計算后才能確定有效的體系結構，而硬件邏輯的重新安排大部分工作可通過硬件設計綜合軟件實現。因此，在低能耗設計時，可根據系統的具體要求選擇合適的能耗設計層次與方法。不同層次優化間的關系11軟件能耗 軟件能耗是指在軟件運行期間，驅動相關硬件活動產生的系統能耗總和，系統休眠或空閑時（無軟件運行時）硬件產生的一些系統能耗或一些無關硬件產生的能耗一般不歸為軟件能耗。主要特點：軟件是硬件的消費者與管理者，軟件本身不會產生能耗，能耗只是軟件執行時的“副產

7、品”，軟件的指令執行和數據存取等操作驅動了底層硬件的電路活動，“間接”導致了系統能耗的產生，軟件是能量的主動消費者，是產生系統能耗的“主動”因素和“活躍”因素，決定了系統能耗的實際值。明確定義和劃分軟件能耗，更便于直接觀察在系統運行狀態下軟件實現方式（包括軟件體系結構、數據結構、算法和語法結構）對系統能耗的影響程度，反映了軟件的實現方式對軟件運行效率的影響。PC機嵌入式系統服務器軟件?低能耗軟件設計的挑戰改變傳統軟件設計方法，從追求軟件開發效率到軟件開發效率和執行效率并重！低能耗軟件設計的難點1多性能約束條件下低能耗軟件設計2軟件應用環境的適應性1低能耗 by 軟件：通過軟件方式降低能耗，即動

8、態設計方法。2低能耗 of 軟件：軟件本身的低能耗，即靜態設計方法。低能耗軟件設計的分類12研究現狀13嵌入式系統的低能耗低能耗軟件的靜態設計低能耗軟件的動態設計1 源程序結構級優化：表達式變化、優化數據表示、程序結構重排；指令變換、指令重排、循環結構優化、存儲器和Cache分配等。2 算法級優化：消除重復計算、改善數據結構、壓縮數據存儲空間、算法選擇等。3 軟件體系結構級優化：體系結構的選擇、變換和簡化等。1 DPM技術：為CPU和I/O設備提供電源管理的功能及接口，選擇運行、待機、休眠等多種工作模式。2 DVFS技術：根據負載情況，動態改變和調節CPU的運行頻率與工作電壓。3 RTOS功耗

9、相關任務調度模型及算法：通過任務能耗特性的研究，改善任務的資源分配與調度。1 嵌入式系統的多樣化功能與低能耗的矛盾嵌入式系統提出各種豐富的功能和個性化、多樣化服務的需求缺乏為適應個性化應用和服務提供軟件能耗最優的資源配置和使用策略2 嵌入式系統的高性能與低能耗的矛盾高性能（主要指處理速度、實時性和吞吐量）的要求不斷提高缺乏高效的軟件能耗管理與控制方式3 嵌入式系統的可用性與低能耗的矛盾可用性（主要包含安全性、可靠性等）的日趨重要軟/硬件冗余資源配置帶來復雜的軟件結構與控制機制三大難題14迫切需要以嵌入式系統的低能耗為目標，從靜態設計和動態設計兩方面，研究低能耗軟件的設計方法二、實現目標總體方案

10、關鍵技術上有創新基礎理論上有突破重要應用上有貢獻低能耗軟件的設計理論和方法體系面向智能終端和路由器的實例應用與驗證工作15能量優先的任務運行模式系統資源的自適應軟件節能配置策略高效可定制化的軟件體系結構能量感知的編程模式低能耗軟件的演化與控制多指標的綜合測評方法以解決低能耗軟件設計所面臨的三個難題為核心，建立低能耗軟件的設計理論和方法體系，實現嵌入式系統能量資源的最優應用適應性分配與使用。16三、主要方法嵌入式系統的低能耗軟件設計方法與技術是在嵌入式系統環境下，研究在多性能約束條件下（包括高性能、可用性等多維度）嵌入式軟件（RTOS、中間件和應用軟件）能耗的管理、控制、優化與評價等理論和技術問

11、題，是一個多約束的組合優化問題。靜態設計 能量感知的編程模式 高效可定制化的軟件體系結構 多指標的綜合測評方法動態設計 能量優先的任務運行模式 系統資源的自適應軟件節能配置策略 低能耗軟件的演化與控制方法一：能量優先的任務運行模式基于電量反饋的自適應閉環控制調度模型17調度器基于溫度反饋的自適應閉環控制調度模型基于用戶體驗反饋的自適應閉環控制調度模型統籌考慮CPU與外設功耗的實時節能調度策略模塊間配置策略方法二：系統資源的自適應軟件節能配置策略18應用環境工作狀態能耗管理與控制軟/硬件模塊配置接口軟件配置粒度劃分模塊內配置策略軟件模塊內部的分區設計不同工作負載下的自適應工作模式快速可變粒度的系

12、統功耗調節機制自適應配置精準調節快速靈活ABHCDEFGIJKLM19方法三：高效可定制化的軟件體系結構軟件體系結構的扁平化風格層次式系統和并發進程，減少執行層次，簡化互聯結構提高軟件運行效率，避免層次間能耗疊加現象軟件體系結構風格的能耗評價定性分析和定量分析ATAM和調度理論的混合方法，進行能耗關注點的針對性改進軟件構件的可定制化機制編譯時構件的裁剪機制和運行時構件的加載/卸載機制構件間拆分、合并、簡化、替換等操作功能和接口方法方法四：能量感知的編程模式20面向GPU的能耗優化接口CC+CPU核電壓頻率選擇；CPU核的線程分配_syncthreads() cudaSetDevice() 子任

13、務1CPU需求I/O需求子任務2子任務3CPU需求I/O需求GPU需求I/O需求能量感知編程接口主動電壓頻率選擇和線程調度模型運行環境的魯棒性方法五：低能耗軟件的演化與控制軟件能耗相關數據的收集、分析和預測軟件運行時環境變化和軟件變化對能耗的影響軟件在環境和自身演化下能耗的演化規律與控制機制結構模型、過程模型和控制模型方法六：多指標的綜合測評方法22多指標關系低能耗軟件多指標的綜合測評方法成本高性能可用性復雜的約束關系能耗基于支持向量機（SVM）的評價模型基于層次分析法的模糊評價模型（AHP）方法七：實例應用與驗證研究23RTOS編譯器能耗、高性能和可用性的驗證應用程序能耗降低達到20%以上，明顯提高系統的能效比一套完整、可應用的嵌入式系統低能耗軟件設計技術方案關鍵技術242快速可變粒度的系統功耗調節機制3簡潔高效的扁平化軟件體系結構風格1基于溫度/用戶體驗反饋的自適應閉環控制調度模型5低能耗軟件演化的運行監控機制6支持分級服務的低能耗軟件協同優化方法4面向能耗的編程方法25四、四點探討智能移動終端的綜合節能技術智能移動終端的能耗一般由硬件單元功耗、軟件任務運行效率及系統資源配置策略等因素決定。主要措施包括：新型高能效的可定制異構多核體系結構能量感知（能量優先）的任務運行模式軟/硬件資源的自適應