凸優化算法

趙千川，清華大學自動化系教授，1996年於清華大學獲得博士學位，研究方向為網絡化動態系統的性能優化與安全控制。

第1章 凸優化模型概述
1.1 拉格朗日對偶性
1.1.1 可分性問題
1.1.2 劃分
1.2 Fenchel對偶性和錐規劃
1.2.1 線性錐規劃問題
1.2.2 二階錐規劃
1.2.3 半正定規劃
1.3 可加性代價問題
1.4 具有大量約束的問題
1.5 懲罰函數
1.6 註記、文獻來源和練習
第2章 凸優化算法概述
2.1 疊代下降算法
2.1.1 可微代價函數下降法——無約束問題
2.1.2 帶約束問題——可行方向法
2.1.3 不可微問題——次梯度法
2.1.4 其他下降法
2.1.5 增量算法
2.1.6 分布式異步疊代算法
2.2 近似方法
2.2.1 多面體近似
2.2.2 罰函數、增廣拉格朗日法、內點法
2.2.3 近端算法、束方法和Tikhonov正則化方法
2.2.4 交替方向乘子法
2.2.5 不可微問題的平滑方法
2.3 註記、文獻來源和練習
第3章 次梯度算法
3.1 實值凸函數的次梯度
3.2 次梯度算法的收斂性分析
3.3 ε-次梯度方法
3.4 註記、文獻來源和練習
第4章 多面體近似算法
4.1 外線性化——割平面法
4.2 內線性化——單純形剖分法
4.3 外線性化與內線性化的對偶性
4.4 廣義多面體近似法
4.5 廣義單純形剖分法
4.5.1 代價函數可微情形
4.5.2 代價函數不可微分以及邊約束
4.6 錐規劃的多面體近似
4.7 註記、文獻來源和練習
第5章 近端算法
5.1 近端算法基礎理論
5.1.1 收斂性分析
5.1.2 收斂的速率
5.1.3 梯度解釋
5.1.4 不動點解釋、超松弛與推廣
5.2 對偶近端算法
5.3 線性化近端算法
本書涵蓋了凸優化算法 的幾乎全部類型，主要包括 梯度、次梯度、多面體近似 、近端算法和內點法。這些 方法大多依賴於代價和約束 條件函數的凸性（但不一定 依賴可微性），並且通常與 對偶性之間存在某種聯系。 作者對於具有特定結構的應 用提供了大量的例子。本書 涉及大規模優化、網絡優化 、並行和分布式計算、信號 處理和機器學習等領域廣泛 應用的分析和討論