《新編MATLAB自學一本通》課件第14章 非線性優(yōu)化問題

2025/4/30主要內(nèi)容理論背景理論模型MATLAB實現(xiàn)案例擴展2025/4/30第一節(jié)理論背景2025/4/301951年Kuhn-Tucker最優(yōu)條件(簡稱KT條件)Davidon(1959),Fletcher和Powell(1963)提出DFP方法1970年由Broyden,Fletcher,Goldfarb和Shanno從不同的角度共同提出的BFGS方法約束變尺度(SQP)方法(Han和Powell為代表)和Lagrange乘子法(代表人物是Powell和Hestenes)80年代開始研究信賴域法、稀疏擬牛頓法、大規(guī)模問題的方法和并行計算90年代研究解非線性優(yōu)化問題的內(nèi)點法和有限儲存法

2025/4/30第二節(jié)理論模型一、無約束非線性優(yōu)化

不失一般性，無約束優(yōu)化的一般形式：其中，為非線性函數(shù)。對于無約束非線性最大化可以通過如下轉(zhuǎn)換將其轉(zhuǎn)化為標

準的無約束非線性優(yōu)化的一般形式：2025/4/30

二、約束非線性優(yōu)化不失一般性，約束優(yōu)化的一般形式：

其中，為非線性函數(shù)。為不等式約束，為等式約束。與無約束非線性最大化類似，對于約束非線性最大化可以通過轉(zhuǎn)換，將其轉(zhuǎn)化為標準的約束非線性優(yōu)化的一般形式：2025/4/30

2025/4/30

2025/4/30第三節(jié)MATLAB實現(xiàn)一、fminunc函數(shù)（無約束優(yōu)化）2025/4/30

fminunc函數(shù)是MATLAB求解無約束優(yōu)化問題的主要函數(shù)，函數(shù)主要使用BFGS擬牛頓算法（BFGSQuasi-Newtonmethod）、DFP擬牛頓算法（DFPQuasi-Newtonmethod）、最速下降法等。其調(diào)用格式主要如下：x=fminunc(fun,x0)x=fminunc(fun,x0,options)[x,fval]=fminunc(...)[x,fval,exitflag]=fminunc(...)[x,fval,exitflag,output]=fminunc(...)[x,fval,exitflag,output,grad]=fminunc(...)[x,fval,exitflag,output,grad,hessian]=fminunc(...)2025/4/30

其中輸入?yún)?shù)：

Fun:目標函數(shù)一般用句柄形式給出

X0：優(yōu)化算法初始迭代點

Options:參數(shù)設(shè)置函數(shù)輸出：

X:最優(yōu)點輸出（或最后迭代點）

Fval:最優(yōu)點（或最后迭代點）對應的函數(shù)值

Exitflag:函數(shù)結(jié)束信息（具體參見matlabhelp）

Output:函數(shù)基本信息包括迭代次數(shù)，目標函數(shù)最大計算次數(shù)，使用的算法名稱，計算規(guī)模等。

Grad：最優(yōu)點（或最后迭代點）的導數(shù)

Hessian：最優(yōu)點（或最后迭代點）的二階導數(shù)例題參考書中【例14.3-1】二、

fminsearch函數(shù)2025/4/30

fminsearch是MATLAB中求解無約束的函數(shù)之一，其使用的算法為可變多面體算法（Nelder-MeadSimplex），其調(diào)用格式主要如下：x=fminsearch(fun,x0)x=fminsearch(fun,x0,options)[x,fval]=fminsearch(...)[x,fval,exitflag]=fminsearch(...)[x,fval,exitflag,output]=fminsearch(...)2025/4/30

其中輸入?yún)?shù)：Fun:目標函數(shù)X0：

迭代初始點Options：函數(shù)參數(shù)設(shè)置函數(shù)輸出：X:最優(yōu)點（算法停止點）Fval:最優(yōu)點對應的函數(shù)值Exitflag:函數(shù)停止信息1：函數(shù)收斂正常停止0：迭代次數(shù)，目標函數(shù)計算次數(shù)達到最大數(shù)-1：算法被output函數(shù)停止Output：函數(shù)運算信息例題參考書中【例14.3-2】三、fmincon函數(shù)2025/4/30

fmincon是MATLAB最主要的求解約束最優(yōu)化的函數(shù)，該函數(shù)要求的約束優(yōu)化問題的標準形式為：其中，為向量，

與

為矩陣，

為目標函數(shù)，

為非線性約束，

為線性約束，

為可行解的區(qū)間約束。2025/4/30

fmincon調(diào)用格式主要如下：x=fmincon(fun,x0,A,b)x=fmincon(fun,x0,A,b,Aeq,beq)x=fmincon(fun,x0,A,b,Aeq,beq,lb,ub)x=fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon)x=fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon,options)[x,fval]=fmincon(...)[x,fval,exitflag]=fmincon(...)[x,fval,exitflag,output]=fmincon(...)[x,fval,exitflag,output,lambda]=fmincon(...)[x,fval,exitflag,output,lambda,grad]=fmincon(...)[x,fval,exitflag,output,lambda,grad,hessian]=fmincon(...)2025/4/30

函數(shù)輸入：Fun:目標函數(shù)名稱X0:初始迭代點A:線性不等約束系數(shù)矩陣B：

線性不等式約束的常數(shù)向量Aeq：

線性等約束系數(shù)矩陣Beq:線性等式約束的常數(shù)向量

lb:可行區(qū)域下屆Ub：

可行區(qū)域上界Nonlcon：非線性約束Options：優(yōu)化參數(shù)設(shè)置函數(shù)輸出：X：

最優(yōu)點（或者結(jié)束迭代點）Fval:最有點（或者結(jié)束迭代點對應的函數(shù)值Exitflag：迭代停止標識Output：算法輸出（算法計算信息等）Ambda：拉格朗日乘子Grad：一階導數(shù)向量Hessian：二階導數(shù)矩陣用法參考書中：【例14.3-2】和【例14.3-3】2025/4/30第四節(jié)案例擴展一、大規(guī)模優(yōu)化問題2025/4/30

MATLAB求解大規(guī)模無約束最優(yōu)化問題(或者其他大規(guī)模問題)時候，一般都會通過optimset函數(shù)對默認算法設(shè)置進行改變，使其使用專用的適合大規(guī)模問題的解算設(shè)置?！纠?4.4-1】

求解如下優(yōu)化問題（含200個變量）：求解程序見書中LargObjFun.m以及l(fā)argUnc