1、第二章 優化設計的數學基礎機械優化設計是建立在多元函數的極值理論基礎上無約束優化問題就是數學上的無條件極值問題約束優化問題則是數學上的條件極值問題一.多元函數的方向導數與梯度 1)函數的偏導數就是這個函數對自變量的變化率。1. 方向導數2) 二元函數的方向導數即沿某一方向d 的變化率，定義為3).方向導數與偏導數的關系Ox2x1x10 x20 x0 x1x2dxd 二維空間中的方向12n元函數的方向導數2. 二元函數的梯度 梯度方向為函數變化率最大方向，也就是最速上升方向。負梯度方向為函數變化率取最小值方向，即最速下降方向。 定義最大值方向為梯度方向梯度方向：梯度方向：2)二元函數梯度的幾何解

2、釋2)二元函數梯度的幾何解釋2)二元函數梯度的幾何解釋2)二元函數梯度的幾何解釋2)二元函數梯度的幾何解釋Ox2x1x0變化率為零的方向最速下降方向下降方向上升方向最速上升方向f(x0)f(x0) 梯度方向與等值線的關系3.多元函數的梯度將二元函數推廣到多元函數，對于多元函數f(x)在X0處的梯度，可表示為 梯度的模 二.多元函數的泰勒展開 函數的梯度方向和模例題（一）例題（二）2022/7/1219三.優化的極值條件1. 無約束優化的極值條件2. 等式約束優化的極值條件3. 不等式約束優化的極值條件1. 無約束優化問題的極值條件極值條件就是指目標函數取得極小值時極值點所應滿足的條件任何一個單

3、值、連續、可微分的不受任何約束的一元函數f(x)在點(x0)處有極值的充分必要條件是對于二元函數，若在點(x0)處取得極值其必要條件是 二元函數取得極值的充分條件 (1) 二元函數在點(x0)處的泰勒展開式，考慮上述極值必要條件，有(2) 若f(x1,x2)在(x10,x20)處取得極小值，則要求其附近的一切點均須滿足(3) 此條件反映了在點(x10,x20)處的海賽矩陣G(x0)的各階主子式均大于零，即(4) 二元函數在某點處取得極值的充分條件是要求在該點處的海賽矩陣為正定 多元函數取得極值的充要條件2. 等式約束優化問題的極值條件(1) 求解等式約束優化問題 (2) 思路：將其轉化為無約束

4、優化問題，有兩種常用的方法:(1) 消元法（降維法）(2) 拉格朗日乘子法（升維法） 消元法（降維法）對于n維問題，可由l個約束方程將n個變量中的前l個變量用其余nl個變量表示，即有將這些函數關系代入到目標函數中，從而得到只含 的共nl個變量的函數 就可以利用無約束優化問題的極值條件求解。 拉格朗日乘子法 通過增加變量將等式約束優化問題變成無約束優化問題。所以又稱作升維法對于具有l個約束的N維問題通過增加變量將等式約束優化問題變成無約束優化問題。所以又稱作升維法對于具有l個約束的N維問題引入拉格郎日乘子 構成一個新的目標函數將其作為一個新的無約束條件的目標函數來求解它的極值點，所得結果就是原等

5、式約束問題的極值點。新的目標函數具有極值點的必要條件為一共可得n+l個方程，從而可解得(x,)共n+l個未知變量的值。由上述方程組求得的x*即為原等式約束優化問題的極值點。等效證明：二維問題三維問題極值點在f等值面與面 的切點處 ，有3. 不等式約束優化的極值條件(1) 對于多元函數不等式的約束優化問題 (2) 求解思路不等式約束等式約束無約束優化引入松馳變量拉格朗日乘子拉格朗日乘子法新的目標函數無約束極值條件，在極值點處有在邊界上在邊界內對應的約束條件起作用對應的約束條件不起作用無約束極值條件，在極值點處有庫恩塔克條件表示成梯度形式庫恩塔克條件上式表明庫恩塔克條件的幾何意義是，在約束極小值點

6、x*處，函數f(x)的負梯度一定能表示成所有起作用約束在該點梯度的非負線性組合庫恩塔克條件擴展對于同時具有等式和不等式的約束的優化問題 庫恩塔克條件可表述為例題：無約束優化問題求函數的極值首先，根據極值的必要條件求駐點再根據極值的充分條件，判斷其海賽矩陣是否正定例題：等式約束優化問題用拉格朗日乘子法改造目標函數例題：庫恩塔克條件此問題在設計空間平面上的圖形如圖所示，它的K-T條件表示為例題：庫恩塔克條件(1)若g1,g2,g3在x*處都起作用K-T條件中的第一個方程可寫為三個方程兩個未知數屬矛盾方程組例題：庫恩塔克條件(2)若g1,g3在x*處都起作用K-T條件中的第一個方程可寫為不滿足非負要

7、求例題：庫恩塔克條件(3)若g1,g2在x*處都起作用K-T條件中的第一個方程可寫為X1=1不滿足g3滿足非負要求小結多元函數的方向導數與梯度多元函數的泰勒展開無約束優化的極值條件等式約束優化的極值條件拉格朗日乘子法不等式約束優化的極值條件庫恩塔克條件習題四 凸集與凸函數XX2X1凸集非凸集凹集*若X是X1和X2連線上的點，則有一.凸集- 若任意兩點 ，對于 ， 恒有 ， 則 D 為凸集。整理后即得二.凸函數 設f(X)為定義在 Rn 內一個凸集D上的函數，若對于 及D上的任意兩點X1,X2,恒有 則f(X)為定義在D上的一個凸函數。1.定義2.凸函數的基本性質兩邊乘上 證: 由定義 （1）設 為定義在凸集D上的凸函數， 為任意正實數,則 也是定義在 D上的凸函數。證: 由定義（2）設 、 均為定義在凸集D上的凸函數，則 + 也是定義在 D上的凸函數。 兩式相加,整理后可得證.（3）設 、 均為定義在凸集D上的凸