数值计算迭代法优化2.5最优化设计

无约束优化问题和约束优化问题当其数学模型确定以后求其最优解，实质上都属于目标函数的极值问题。两者的优化求解方法联系紧密，其中无约束优化方法又是优化方法中最基本的方法。

非线性无约束最优化问题解法大致分为两类：解析法和数值计算迭代方法。

解析法是采用导数寻求函数极值的方法，其特点是以数学分析为工具，古典的微分法就属于这一类。例2-1表明了无约束非线性最优化问题用解析法求极值点的过程。它根据目标函数极值点存在的必要条件式（2-9），用数学分析的方法求出方程组的根X*（驻点），再用式（2-8）计算驻点处的黑塞矩阵来判别是否符合函数极值点存在的充分条件。如符合，驻点X*即为极值点，问题就能解决了。但在工程设计中，往往由于目标函数比较复杂，从而求不出或难以求出目标函数f（X）对各自变量的偏导数，此时无法形成方程组（2-9），同时即使能得到该方程组，也往往是高次非线性的方程组，使用解析法来求解驻点极为困难。此外，要判别黑塞矩阵是否为正定，一般是很烦琐的，有时甚至不能用于具体计算之中。这类寻优方法仅适用于求解目标函数具有简单而明确的数学形式的非线性规划问题。而对于目标函数比较复杂甚至无明确的数学表达式的情况，这种方法显得求解效率极低或无能为力。这时应采用数值计算迭代法。

数值计算迭代法是直接从目标函数f（X）出发，使目标函数值逐次下降逼近，利用计算机迸行迭代，一步步搜索、调优并最后逼近到函数极值点或达到最优点。根据确定搜索方向和步长的方法不同，数值计算寻优可有许多方法，但其共同点是：(www.xing528.com)

1）要具有简单的逻辑结构并能迸行同一迭代格式的反复运算；

2）这种计算方法所取得的结果不是理论精确解，而是近似解，但其精度是可以根据需要加以控制的。