【实用书】实用优化算法与工程应用，737页pdf

2022 年 9 月 19 日 专知

近几十年来，数字计算机效率的进步和用于数值计算的可靠软件的发展，导致了数值优化理论、方法和算法的快速发展。这一知识体系促进了优化方法在许多学科(例如，工程、商业和科学)的广泛应用，并随后导致了不久之前被认为是棘手的问题解决方案。

https://link.springer.com/book/10.1007/978-1-0716-0843-2

这一独特的和全面的教科书提供了一个广泛的和实际的处理的主题优化。本书的每半部分都包含了一个完整学期的补充，但独立的材料。在这个大大增强的第二版中，作者增加了关于最近的创新、技术、方法和许多问题和例子的章节。这些特点使本书适合在一年级研究生课程或高级本科课程的一两个学期使用。

主要特点:

证明和广泛的类测试内容
提出了无约束优化和有约束优化的统一处理方法，使其成为一本两用教科书
介绍了凸规划、序列二次规划、乘法器的交替方向法(ADMM)和凸-凹过程等方面的新材料
包括半定和二阶锥规划等方法
为无约束优化和有约束优化的最先进的应用添加新材料
提供一个完整的教学包与许多MATLAB示例和在线解决方案的章节结束的问题
使用一种实用的、可访问的优化处理方法
提供两个涵盖背景理论的附录，以便非专家可以理解基本理论
凭借其强大而实用的优化处理，这一经典教科书的显著增强修订版将是大学和大学生学习不可或缺的，也将成为科学家和行业专业人士有用的参考卷。

在过去的三十年中，数字计算机效率的快速提高和可靠的数值计算软件的发展导致了数值优化的理论、方法和算法的惊人增长。这一知识体系反过来促进了优化方法在许多学科的广泛应用，如工程、商业和科学，并导致了不久之前被认为是棘手的问题的解决方案。尽管有许多优秀的书籍以数学的严谨性和精确性来处理优化问题，但似乎仍需要一本书来提供针对从大学生到科学家和行业专业人员等更广泛受众的该主题的实用处理方法。这本书就是为了满足这种需要而写的。它统一对待无约束优化和有约束优化，特别关注优化的算法方面，使读者能够将各种算法和方法应用到感兴趣的具体问题。为了促进这一过程，本书提供了许多解决的例子，说明所涉及的原则，并包括，另外，两章专门处理无约束和有约束优化方法在模式识别、控制系统、机器人、通信系统和数字滤波器设计等领域的应用。对于每个应用程序，都提供了足够的背景信息，以促进对用于获得所需解决方案的优化算法的理解。

第一章简要介绍了优化和优化算法的一般结构。第2章到第9章涉及无约束优化方法。第二章介绍了局部极小化的一阶和二阶必要条件、二阶充分条件和凸函数的优化。第三章讨论了算法的一般性质，如下降函数、全局收敛和收敛速度的概念。第四章介绍了一维优化的几种方法，通常称为直线搜索。本章还讨论了在许多优化算法中提高效率的非精确直线搜索方法。第五章介绍了几种基本的梯度方法，包括最陡下降法、牛顿法和高斯-牛顿法。第六章给出了一类基于共轭方向概念的方法，如共轭梯度法、Fletcher-Reeves法、Powell法和Partan法。第7章介绍了一类重要的无约束优化方法，即拟牛顿方法。研究了该类的代表性方法Davidon-Fletcher-Powell和Broydon-Fletcher-Goldfarb-Shanno方法及其性质。本章还包括一个实用、高效、可靠的准牛顿算法，它消除了与基本准牛顿法相关的一些问题。第8章介绍了在许多应用中使用的极小极大方法，包括数字滤波器的设计。第9章给出了3个案例研究，将第4章到第8章中描述的几种无约束优化方法应用于点模式匹配、机器人机械手逆运动学和数字滤波器的设计。

第10章到第16章涉及约束优化方法。第10章介绍了约束优化的基本原理。本文详细讨论了拉格朗日乘子的概念、称为Karush-Kuhn-Tucker条件的一阶必要条件以及凸规划的对偶性原理，并通过许多例子加以说明。第11章和第12章涉及线性规划(LP)问题。第11章讨论了LP的一般性质和标准LP问题的单纯形方法。第12章介绍了几种内点方法，包括原始仿射尺度法、原始牛顿势垒法和原始对偶路径跟踪法。第十三章讨论二次凸规划和一般凸规划。研究凸二次规划的所谓活动集方法和几种内点方法。本章还包括一般凸规划问题的所谓切割平面和椭球算法。第14章介绍了两类特殊的凸规划，即半定锥规划和二阶锥规划，它们在许多学科中都有有趣的应用。第15章讨论了不属于凸规划一类的一般约束优化问题;特别强调了几种序列二次规划方法，这些方法通过使用高效的线搜索和有关的Hessian矩阵的近似来增强。本书的第16章总结了约束优化在数字滤波器设计、动态系统控制、机器人系统力分布评估和无线通信系统多用户检测方面的几种应用。