1、分類號：扭：，咿跌蕊毋博士學位論文分層多元譜梯度方法及其在大規模非線性方程組求解和醫學圖像彈性配準中的應用學位申請人韓樂一導師姓名廈職稱關履泰教授信息計算科學中文摘要中山大學博士學位論文分層多元譜梯度方法及其在大規模非線性方程組求解和醫學圖像彈性配準中的應用專業：信息計算科學韓樂關履泰教授學位申請人：導師及職稱摘要：大規模優化問題不僅出現在經濟學、社會學、工程學、管理學等應用領域，也是理論研究領域的研究重點構造大規模優化問題的計算方法，研究這些方法的理論性質和實際計算表現，具有重要的理論意義和實際應用價值求解無約束最優化問題的譜梯度方法由于其簡單、有效和存儲需求少等特點，已經受到越來越多研究學

2、者的重視本文主要討論了分層多元譜梯度方法和它的一些應用首先。將譜梯度方法和多元步長的思想結合，提出了求解無約束最優化問題的多元譜梯度方法該方法與譜梯度方法一樣具有擬牛頓性質，但允許沿搜索方向的每一個坐標分量方向選取步長，所以多元譜梯度方法具有二次終止性，對具有對角矩陣的正定二次函數至多兩步收斂，而且對具有正定對角矩陣的目標函數具有二階收斂速度，和非單調線搜索結合后，得到了全局收斂的多元譜梯度算法數值實驗結果顯示多元譜梯度算法對某些目標函數有時收斂的很慢，為了克服這個缺點我們還提出了混合譜梯度方法然后，在多元譜梯度算法數值分析的基礎上，將多元譜梯度方法與譜梯度方法的優勢結合起來，提出了求解無約束

3、最優化問題的分層多元譜梯度方法它是多元譜梯度方法與譜梯度方法的結合體，兼具了二者的優點，但比它們更靈活，其全局收斂性可以借助于非單調線搜索得到之后，利用求解方程組問題等價于求解某個無約束問題，提出了求解大規模非線性方程組的分層多元譜梯度算法該迭代算法針對非線性映射矩陣的結構特征，用對角陣和非線性映射的乘積確定搜索方向，隨著迭代次數的增加，降低對角陣中對角元相異的程度，達到減少層數的效果為了避免矩陣的計算和線性方程組的求解，每步迭代均采取正反兩個方向搜索，同時與非單調線搜索結合，保證算法的全局收斂性最后，將譜梯度算法、混合譜梯度算法和分層多元譜梯度算法應用于醫學圖像彈性配準參數模型的求解醫學圖像

4、配準是指尋找聯系兩幅醫學圖像間的幾何一一中文摘要變換，使兩幅圖像上的對應點達到空間上的一致，具有很重要的臨床應用價值依據圖像變形的方式，醫學圖像配準可以分為剛性配準和彈性配準，其中剛性配準的研究已較為成熟，而彈性配準研究則剛剛起步彈性配準模型又可以分為參數模型和非參數模型參數模型本質上是一個圖像的多參數最優化問題，首先根據具體的配準問題確定一個衡量是否配準或配準程度的準則，然后根據配準準則定義一個適當的目標函數，最后通過對目標函數的最優化搜索得到配準參數，因此最優化過程在配準過程中具有非常重要的地位本文將提出的算法應用于醫學圖像彈性配準樣條參數模型的求解，主要介紹了樣條彈性形變模型的核心思想，

5、相關的相似性測度函數，比較分析了最速下降法、譜梯度方法、混合譜梯度方法對該模型的求解效果；還嘗試了分層多元譜梯度方法不同分層方式對該模型無標示和有標示問題的求解，每種算法均給出了配準后的效果圖關鍵詞：譜梯度方法，無約束最優化，大規模優化，非線性方程組，非單調線搜索，全局收斂性，彈性配準一一英文摘要：，一英文摘要，：，英文摘要，：，一致謝及聲明聲明本人鄭重聲明：所呈交的學位論文，是本人在導師的指導下，獨立進行研究工作所取得的成果。除文中已經注明引用的內容外，本論文不包含任何其他個人或集體已經發表或撰寫過的作品成果。對本文的研究作出重要貢獻的個人和集體，均已在文中以明確方式標明。本人完全意識到本聲

6、明的法律結果由本人承擔。學位論文作者：二阻日期：謎！圣！致謝及聲明聲明本人完全了解中山大學有關保留、使用學位論文的規定，即：學校有權保留學位論文并向國家主管部門或其指定機構送交論文的電子版和紙質版，有權將學位論文用于非贏利目的的少量復制并允許論文進入學校圖書館、院系資料室被查閱，有權將學位論文的內容編入有關數據庫進行檢索，可以采用復印、縮印或其他方法保存學位論文。學位論文作者：彝立：日期：絲劃一導師簽一第一章緒論第一章緒論本章主要介紹了譜梯度方法的研究現狀和醫學圖像彈性配準的相關知識，全面總結了譜梯度方法的發展歷程，著重分析了全局的譜梯度算法，詳細介紹了譜梯度方法在凸約束優化和方程組求解中的推

7、廣、應用，以及醫學圖像彈性配準的相關概念和研究進展最后介紹了論文的主要工作和內容安排譜梯度方法最優化問題的數學模型如下：（），劈其中，函數，是定義在艫上的實值函數若艫，則稱問題（）為無約束最優化問題（簡稱無約束問題）無約束問題通常記為（）肝（）無約束問題不僅出現在一些應用領域，如經濟學、社會學、理學、工程應用、管理科學等，也是理論研究領域的研究重點，因為許多優化問題是轉化為無約束問題求解的無約束問題的一個主要研究內容就是求問題（）的解此時，常常假設廠光滑由無約束問題解的最優性條件可以構造求解無約束問題的下降算法，其基本思想是從某個初始點出發，按照使目標函數值下降的的原則構造點列），即點列南）滿

8、足條件（）（），算法的最終目標是使得點列）中的某個點或某個極限點是問題（）的解或穩定點下降算法的一般步驟是（）其奄為搜索方向，知為步長因子，可由一維線搜索獲取下降算法多是基于梯度的算法，是局部算法，即尋找充分靠近初始點的一個穩定點已經有許多有效的梯度下降法，如最速下降法、牛頓法、擬牛頓方法、信賴域方法和共軛梯度法一般來講，這些方法收斂快且可以獲得高精度的解，已經被成功的應用于很多領域我們著重討論其中的最速下降法一一第一章緒論最速下降法最初是眭在年提出的，故也常被稱為方法，有時也會簡稱為梯度法若記夕為廠的梯度函數，最速下降法可以表述為：算法（最速下降法）步給出艫，厶：；步計算一；如果，則停止；步

9、由精確一維搜索求步長因子七，使得（七七）恕占，（鞏如）；步步（）計算七七；：。轉步于年證明了上述算法產生的序列釓）趁。的任意極限點是穩定點，即滿足夕（）但對于許多問題，最速下降法并非”最速下降”，而是下降非常緩慢數值實驗表明，當目標函數的等值線接近于一個圓（球）時，最速下降法下降較快，而當目標函數的等值線是一個扁長的橢球時，最速下降法開始幾步下降較快，然后就會出現鋸齒現象，下降十分緩慢其原因是因為一維搜索滿足夕玉，且鯫函，這表明在相鄰兩個迭代點上函數廠（）的兩個梯度方向是互相垂直的，即兩個搜索方向互相垂直，就產生了鋸齒形狀當接近極小點時，步長愈小，前進愈慢所以，最速下降法雖然在優化領域有著廣泛

10、的應用，但是在解決實際問題時，它經常產生鋸齒現象，導致算法收斂的很慢甚至不能收斂總之，最速下降法的主要缺點是：（）每步迭代是獨立于其他迭代點獨立計算，沒有儲存信息和加速效果，（）不具有二次終止性，（）收斂速度強烈依賴于目標函數的結構特征，若函數廠的矩陣的最大與最小特征值的比值很大，最速下降法在最優解附近就會發生鋸齒現象在多數情況下它的收斂速度很慢且已被廣泛接受和于年提出了兩點步長梯度法【，其基本思想是利用迭代當前點和前一點的信息來確定步長因子，有時也被稱之為梯度法兩點步長梯度法本質上是一種最速下降法，它沿著負梯度方向的步長的選取類似擬牛頓方法，是借助于前兩步迭代點的位置信息和梯度信息逼近割線方

11、程若記孤為迭代一一第一章緒論點七處的梯度，兩點步長梯度法的迭代公式可寫作鞏一贏磯，其中因子七由（）。麗：摯業未一鯫一魏一知一奄一，瓠一一（）或（）給出，而（）兩點步長梯度法步長因子的選取與擬牛頓方程鼠一一（）有一定聯系上式中的鼠是一個禮×咒階的對稱正定矩陣，它逼近函數，（）在點處的矩陣事實上，若記矩陣七。，則由奄一一一（）而得，當鼠巧時（）和（）是沒有差異的類似的，由仇一仇紈一得到，當七時（）和（）則是一樣的其實，已經在有限記憶的擬牛頓算法里作為初始矩陣的比例因子，詳細的內容可以參看【】另一方面，兩點步長梯度法的步長因子與商有著緊密聯系注意到璣一嵋了七一七一）硼】南一，這里，了表示梯

12、度函數的矩陣因此，（）是如下形式妁商己舊（一）一七一一第一章緒論式子（）是如下形式拘商己（片（一一）棚尸詹（一一）一乏詹（一一）一為譜系數譜梯度算法可描述如下：算法（譜梯度法）步因此，兩點步長梯度法又被稱為譜梯度方法，而步長因子（）或（）也相應地稱給出艫，后：；步計算毗一肌；如果鯫，則停止；步如果，利用一維搜索求；否則，利用（）或（）計算口七步夏女，步：，轉步譜梯度方法無論在理論還是實際應用中都優于古典的最速下降法對于二維的嚴格凸二次函數，譜梯度方法具有超線性收斂階，且與最速下降法不同的是，當矩陣病態時譜梯度算法的收斂速度反而是增加的譜梯度方法的發展對于二次函數的極小化問題（）去一礦，厶（）當

13、問題的維數時，和（）證明了此時譜梯度方法具有超線性收斂速度，且用一個幾的例子說明了譜梯度方法遠比古典的梯度方法有效，但沒有給出其他的數值實驗之后，（）】對任意維的二次函數，討論了譜梯度方法與（）中矩陣的譜之間的關系當（）是任意維的嚴格凸二次函數時，（）證明了譜梯度方法總會收斂到問題（）的唯一解但這兩篇文章都沒有給出任何數值實驗，也沒怎么引起大家的重視由于譜梯度方法的收斂性分析很困難且沒有統一的標準，所以收斂結論多是針對凸二次函數的分析當（）是任意維的凸二次函數時，和（）！伸】建立了（預條件的）譜梯度方法的線性收斂速度的求證，但有一個假設入這里入，分別是矩陣的最小和最大特征值這一一第一章緒論個假

14、設要求太強，和（）沒有用這個假設，在深入分析（）的證明后，建立了譜梯度方法具有線性收斂速度的結論，一個直接的推論就是，對一般的目標函數譜梯度方法具有局部的線性收斂速度，所以，結合了非單調線搜索的譜梯度方法，只要參數選用適當，迭代靠近最優解時的步長因子總是可以接受的然而，很少有人研究譜梯度方法迭代的漸進過程，即使是對二次函數也僅僅知道維數的情形和（）針對朋寸稱正定的二次函數分析了計算譜梯度方法漸進過程的可行性，觀察到禮時的某些值，隨著他的增加有一個從超線性收斂到線性收斂的轉變，從而給出了譜梯度方法的一個簡單版本，可以預測這個轉變之后，等人（）通過仿真譜梯度算法對二維二次函數極小化的求解，提出了極

15、小化二次函數的自適應步長的譜梯度方法，利用擬信賴域技術在兩個譜系數（）和（）間選取合適的一個作為步長他們的數值實驗說明自適應的譜梯度方法優于譜梯度方法，特別是系數矩陣非常病態時仍可達到要求的精度另外，當限制低精度時自適應譜梯度方法優于線性共軛梯度方法等（）將【】【】的結果推廣，提出一類重開始的非單調梯度法，并建立了收斂性，用不同的例子說明了這些新方法的優點和（）】在說明法效果差歸因于最優步長的選取而不是梯度方向的取法后，將的線搜索方法推廣提出了一種法和法相結合的新梯度法：（）方法這種方法在適當的范數下可以有一線性收斂速度這種方法也是非單調的，其核心思想是在每步迭代時計算一次步長迭代兩次文提出的

16、梯度類算法是方法的一種特殊情況，當，是嚴格凸的二次函數時【】已經建立了方法的全局收斂性對于一般的凸二次函數，則由文】給出了方法線性收斂的證明，而文【】則對一般的非線性目標函數證明了方法的局部線性收斂性對一般的非線性目標函數，譜梯度方法僅是局部收斂而非全局收斂，它的全局收斂性借助于非單調線搜索得到【，對一般的非二次函數極小化問題（），（）建立了全局的譜梯度方法，耳（）方法方法是由譜梯度方法和等人提出的非單調線搜索策略【】結合而成，對一般的光滑無約束問題可以證明具有全局收斂性這篇文章另一同等重要的內容在于，它提供了大量的數值實驗，部分問題的維數甚至高達實驗結果顯示，全局譜梯度方法在數值表現上可以媲

17、美一些標準的共軛梯度算法（）對算法作了進一步分析討論，解釋了為什么它會優于共一一第一章緒論軛梯度法，說明了非單調線搜索在全局收斂性中的重要性，指出【】中的非單調線搜索方式并不是全局譜梯度方法最好的選擇，并給出了其他的替換選擇其實，對于一般的非二次函數極小化問題，（）和（）中的和月匕：會非常大或非常小，甚至對非凸函數還可能是負的，這些都可能造成算法不收斂因此，必須要求（）和（）中的值滿足七口，（）對所有的正整數成立，這里的乜，“是給定的固定值然而，這樣仍不能保證算法對一般非二次函數的收斂性，所以，需要對步長因子的選取作些其它的限制由于譜梯度方法的步長因子不能保證目標函數值的單調下降性。而它對正定

18、二次函數又有較好的收斂速度，所以全局算法既要盡可能的選擇譜系數作為步長因子，又要維持譜梯度算法的局部收斂速度，就得采用非單調線搜索策略值得注意的是，非單調的全局技術對困難的非線性問題是非常有效的，因為它不僅具有默認步長因子特殊的局部收斂性質，更重要的是它可以跳出局部極小方法中采用的是的非單調線搜索公式七七）。毗）七一歹）靠也，（），（，），（，】這是一種基于型的非單調線搜索，（）中的是一給定參數全局譜梯度算法是對譜梯度算法加（）和（）的步長因子限制得到的，數值結果顯示全局譜梯度算法在梯度計算次數和時間上有時甚至優于一些共軛梯度算法，然而，數值結果也顯示，對一些病態的問題全局譜梯度算法是失效的注

19、意到，（）滿足時，需要每步迭代的七必須落在水平集七：）。蛐（）七一）（）中這個限制太嚴格了，要求，（，）均要落在局部極小點附近，致使線搜索實施過程中這樣的非單調線方法可能不是很有效另一個后果是，對病態的凸問題和困難的非線性問題，全局譜梯度算法強烈依賴初始點的選取和參數以一個凸問題（目標函數含有一個小的非凸項）為例，分析了增加非單調性的重要性和必須性，同時介紹了比（）稍弱些的非單調搜索原則在同一一第一章緒論一篇文獻中，丕分析了凸問題，提出了一種基于梯度范數的非單調線搜索方法，它不需要計算函數值，且數值應用效果良好另外，在分析了譜梯度方法對大多數問題在數值上的非單調行為，以及為何比共軛梯度法有效的

20、原因后，進一步強調了譜梯度方法需要和非單調線搜索結合的重要性之后，等人【馴對一般的非凸問題定義了兩種新的非單調線搜索方法，使得一些點可以跳出當前的水平集驢，但最終仍會收斂到目標函數，在中的穩定點，且不會收斂到局部極大值其中的一種方法將看門狗技術引入（），可以看作是（）的修正；另一種方法主要是采用，（七以）。（奄，），知一）饑吾毗一能比，（）饑，飽，他的搜索準則這兩種搜索方式與譜梯度方法結合后形成了新的算法，等人還證明了相關算法的全局收斂性，并做了大量的數值研究輔助說明算法對大規模無約束問題的有效性文貝提出了一種新的非精確線搜索策略，線搜索是它的特殊情況，與下降法結合的新算法在某些情況下也即為譜

21、梯度方法方法其他的修正，主要旨在提高算法效率和降低線搜索參數的影響方面文提出了一種自適應的非單調線搜索策略，可以降低非單調搜索中參數對算法的影響，與譜梯度方法結合得到了自適應的譜梯度算法，該算法同樣具有全局收斂性，而且數值結果良好，但與（）相比又多了個參數文貝從插值的角度解釋了譜系數的選取其實，對于一維的優化問題，譜梯度方法就是切線法，在高維情形下，譜系數不僅可以由擬牛頓方程得到，還可以由和七間的二次插值得到從而，文提出了兩種新的計算步長因子的方法，當，（）在七一和七間是二次函數時，新步長就等同于（）和（）基于這兩種新步長因子文還提出了兩個求解無約束問題的修正兩點步長梯度法文【】則對搜索方法做

22、了一定的限制后提出了預條件的譜梯度方法而文針對帶強噪聲的無約束問題提出了一種更有效的策略：譜梯度方法和隨機逼近方法的有效結合無約束問題（）的求解往往借助于一階必要條件，即極小值處的梯度為零一一第一章緒論利用這點構造無約束問題的解法可歸為這樣兩種：（）幾何解法，構造迭代序列。態，最簡單的梯度流，七以夕禮，其中以為下降步長，釓為下降方向當一，以取作譜系數時，即為譜梯度方法的迭代格式（）動力系統，即梯度流方法最優解滿足某一動力系統的穩定狀掣一（亡），亡，【（）梯度方法】引入梯度流，構造了求解非線性問題的預條件梯度流法（）顯然，對時間的離散化后即是簡單的梯度法和將預條件的譜總之，譜梯度方法由于其簡單性

23、、數值有效性和對存儲空間的極小需求，已經受到越來越多研究學者的關注也延伸到了許多其他的研究領域譜梯度方法的應用譜梯度方法雖然不能保證目標函數值在每一步迭代的下降性，但在實際計算時遠遠優于經典的最速下降法，甚至比一些共軛梯度法還快，而且譜梯度方法往往只需要極少的計算量且編碼簡單，所以已經被推廣并廣泛地應用于其它領域譜梯度方法最早最直接的應用是在化學中的應用方法提出后，被成功應用于物理研究【】，且被推廣求解凸約束優化、隨機優化、方程組求解等問題（）的想法后來在】中進一步擴展，用于極小化閉凸集上的可微函數，從而引出了一類更有效的投影梯度法：譜投影梯度法啪鋤】此外，矛等對譜梯度方法及其應用也做了大量的

24、研究【坫，文禾用梯度投影法和活動集技術將譜梯度方法推廣至求解箱形約束優化問題凸約束優化中的應用在譜梯度方法的基礎上，、和提出了一種求解凸約束優化（）（）的譜投影梯度（）方法，簡稱為方法（）中為閉一一第一章緒論凸集該方法的主要思想是在當前迭代點七處，計算搜索方向（一口七鯫）一七，（名）是向量在閉凸集上的垂直投影，而七即為譜系數新的迭代點知，（）（）其中七為迭代步長當閉凸集上的投影易于計算時，方法非常有效，特別是對箱形約束和球形約束這種情形下，方法特別易于編碼而且所需的存儲空間很少令人吃驚的是它的數值表現很好，優于與之比較的復雜的信賴域算法到目前為止，算法已經成功的解決了許多學術問題和工業問題文】

25、列舉了大量的數值實驗，結果顯示步長取為譜系數比取作常數求解算法效率有極大的提高，而且非單調線搜索也很有效然而，其中的收斂定理證明有一點小錯誤，原因是情形（見文的頁）的證明里，錯誤的將序列七看作是序列的子列，所以原文獻里的結論是得不到的事實上，如果添加一些合適的條件，該定理的結論仍然成立文獻】重新研究方法的收斂性，去掉了原定理中各種無界的假設，證明了如果目標函數的梯度函數一致連續，則方法收斂且投影梯度序列趨近于零向量，在適當的條件下方法還有一些令人鼓舞的收斂性質，如全局收斂性和有限終止性鑒于方法的成功，文將算法應用求解條件約束問題，（），（），（）的外層迭代，并做了大量的數值實驗來評價算法的應用

26、（）的目標函數，：兄和約束函數九：形艫均為一階連續可微，艫龜（），其中連續可微且為凸函數另外，文將【】中求解無約束優化拘（）方法推廣到求解箱形約束問題（）：），一一（）第一章緒論其中，是連續可微的實值函數，定義在集合召鐘：），其中，或者如一或且與（具體說明見】）和（數值比較（），）方法做了對于箱形約束問題，文在箱形約束可行集內部迭代時采用了比例循環的譜梯度迭代，從而提出了一種求解箱形約束的仿射比例算法，與非單調線搜索結合后具有全局收斂性，當滿足二階充分優化條件時具有局部的線性收斂速度，數值實驗顯示收斂速度對問題條件不敏感文將活動集技術與譜梯度方法結合用于求解大規模的箱形約束問題，全局收斂性也借

27、助于非單調線搜索得到，數值實驗結果可與算法媲美線性方程組求解顯然，求解（）等價于求解線性方程組，（）其中對稱正定若記吼為點亂處的殘量，即鯫七一，則很容易得到求解問題（）相應的最速下降法和譜梯度法等【給出了這兩種方法的一般形式，并比較了幾種不同的步長選舉策略等人【】對求解非對稱線性方程組（系數矩陣煳非奇異但不一定是對稱正定陣）的譜梯度方法予以分析假設未知量僅有兩個變量且有兩個實特征值，此外，還假設：紈對任意的成立，這個假設并不能保證是正定的，而這恰是，所需要的在這些假設下，等證明了：如果有兩個相同的特征值，譜梯度法是一超線性收斂的；如果有不同特征值，譜梯度法幾乎對所有的初始點收斂且具有超線性收斂

28、性這些結論強烈的依賴于文中兩個非線性遞推關系的分析研究文中還指出，譜梯度法的收斂性與矩陣的對稱程度有關如果陵近于對稱矩陣，算法則收斂的很快；反之，若明顯的非對稱，則算法收斂的很慢而且，譜梯度法求解非對稱線性方程組的收斂速度慢于求解對稱線性方程組的收斂速度，當對稱時，若有兩個相同特征值則譜梯度法至多兩步收斂；若有一對相異特征值，由【】可知該方法的超線性收斂階是一，是任一第一章緒論一比以小的正數；當非對稱時，若有相異特征值則超線性收斂階僅為所以，要加速求解非對稱線性方程組的譜梯度法的收斂速度，需要進一步研究怎樣將非對稱矩陣變化以提高它的對稱性另外，至子空間方法中】還將譜系數用大規模非線性方程組求解

29、近年來，譜梯度方法己被用于求解大規模非線性方程組問題【蝴】考慮非線性方程組問題：（），研，（）其中，：毋為連續可微的非線性映射我們著重討論迭代求解和大規模情形，即當很大，（）相應的矩陣無法獲取或存儲量太大無法承受、計算時間太長無法接受的情形求解非線性方程組的基本迭代解法主要有三種第一種為固定點迭代，此方法僅需要函數（）的信息，以殘向量作為搜索方向第二種為有限差分或不精確牛頓法，此方法建立在子空間投影理論上，需要用一向量逼近矩陣的變化從而保持牛頓法的快速收斂性【最后一種方法相關的研究很少，也許因為要用到一些方法的有限記憶手段【其中主要的解法有牛頓法和擬牛頓法，嘶這些方法在充分靠近真解時具有快速的

30、局部收斂速度，但不適用于求解大規模非線性方程組問題，因為每步迭代需要利用矩陣或其近似求解一線性系統全局收斂技術一直是非線性方程組求解中的一個主要的研究內容，即保證從任一初始點都可以收斂逼近最優解經典的作法是引入對偶函數。如（）（）（），利用線搜索或信賴域技術極小化，（）在適當的假設前提下，理論上可以通過合適的極小化算法收斂到非線性系統的解然而，因為（）狗矩陣是未知的，全局算法不能用到對偶函數廠（）的梯度信息，因此，要建立收斂理論必須用有限差分逼近廠（）的梯度或依賴于合適的全局收斂理論和無梯度方法在這樣的框架下。等人建立了求解大規模非線性方程組的譜算法（），迭代格式（）鞏一（七）（），一一第一章

31、緒論七取作譜系數的適當修改全局收斂性由【】中的非單調線搜索方法的變形得到，搜索方向一（七）七，線搜索中的（七）七用向前差分獲得同時（）以逼近值的符號還被用于確定搜索方向的符號原則上，這種方法的收斂條件就要求（）的梯度不能與（）正交即使這樣，算法的數值表現在計算時間上與一些牛頓型方法比仍具有競爭力之后，等人又提出了一種新的無梯度線搜索方法，進一步給出了求解大規模非線性方程組問題的（）方法【，數值實驗表明該方法非常有效等人】定義分析了一系列針對無約束問題的非單調無梯度的線搜索策略，并介紹了一種結合了看門狗技術和非單調線搜索的全局技術，將其與譜梯度方法結合用于求解大規模非線性方程組和將譜梯度方法和文

32、】中的投影方法結合用于求解非線性的單調方程組類似于【】，等人【】則將共軛梯度法與中的搜索方法結合后應用于求解大規模非線性方程組問題喻【也作了一些這方面的研究醫學圖像彈性配準醫學圖像配準是指尋找聯系兩幅醫學圖像間的幾何變換，使兩幅圖像上的對應點達到空間上的一致醫學診斷和治療過程中，常需要對比分析多幅圖像，以獲得更為精確和全面的信息圖像分析大都要求多幅圖像的幾何位置一致，因此配準是醫學圖像分析的一個重大課題圖像配準不僅可以校正病人多次成像問的位置變化，也可以校正由于成像模式本身導致的畸變對同一個病人的不同時間的圖像進行配準，可以了解發育過程及腫瘤或退行性病變的病情進展；對不同人的圖像進行配準，去除

33、種族、年齡等臨床及遺傳差異，從而形成疾病或人群特異性圖譜，可用于正常與否的分析；對不同成像模式進行配準，可以獲得互補信息用兄和表示待配準的兩幅圖像，其中兄為參考圖像（），表示檢驗圖像（）配準過程就是要找到一個空間變換西，使參考圖像與變形后的檢驗圖像達到空間上的一致性即選擇合適的相似性測度（）使得它們的相似性（，）（，西（）（）達到最大其（）是相似性測度，也常常稱為價格函數（）或目標函數（）圣為參考圖像和檢驗圖像之間的空間變換，如果這個變形函一一第一章緒論數表示線性關系，這種變形就稱為剛性變形【；如果表示非線性關系，則稱為彈性變形【”圖像配準的過程可歸結為變換模型（，西（），（）即尋求使得（，西

34、（）取得最大值的空間變換西變換模型中的參數可能的取值范圍稱為搜索空間，參數的個數稱為變換模型的自由度參數的個數與變換模型的特性有關，不同的變換模型，其自由度常常是不同的二維剛體變換只有三個自由度，分別表示坐標軸方向上的平移和空間的旋轉角度：三維剛體變換則有六個自由度，分別表示三個坐標軸方向上的偏移量和相對旋轉角度，參數的取值范圍根據特定的應用和實際情況進行選取；彈性配準所含參數更多，有可能達到成千上萬個，變換模型更加復雜圖像配準是信息融合研究中的一項重要課題對于部分計算機視覺和模式識別任務而言，圖像配準是其關鍵和先決條件圖像配準依據其解決圖像形變的能力而分為剛性配準方法和彈性配準方法兩類其中，

35、剛性配準只解決剛性形變問題，是尋找一個六自由度（三個旋轉，三個平移）的變換，使得參考圖像中的點映射到檢驗圖像中的對應點經過多年的發展，用于同一模式和不同模式的剛性配準算法已經成熟，可以達到很高的配準精度，并且能夠臨床應用彈性變換具有足夠的通用性，可以逼近任意的非線性變換，則可以處理圖像中存在的彈性形變（亦稱為非剛性形變）相對于剛性配準方法而言，彈性配準方法的研究起步較晚，是近些年才開始的從現有文獻來看，目前彈性配準方法的研究主要集中在基于區域的方法中彈性變換的變形模型基本可以分為兩類：一類是非參數化模型在這種模型中，圖像被看成是一片有彈性的薄膜，在外力和內力的作用下達到平衡外力由參考圖像和變形圖像（即檢驗圖像）的差異確定；內力由薄膜的強度和平滑程度確定主要有以下幾種模型：、彈性力學模型思路是將檢驗圖像到參考圖像的變形過程建模為一個物理過程，類似于拉伸一個諸如橡皮的彈性材料這個物理過程由兩種力來控制內力和外力內力是由于彈性材料的變形和抵消任何使彈性體從平衡形狀變形的力產生的外力是外界作用于彈性體的力，當作用于彈性體上的外力和內力達到平一一第章緒論衡時變形過程結束彈性體的變形可以由線性偏微分方程（，）（）（亂（，），（，）（）來