浅谈最优化方法

最优化方法其实是一门相对比较杂的学科，这里面既有理论，也会有对机器算法的收敛性的分析。我们在这里主要挑了一些比较重要的部分来写。

本文将仍然采用多篇的形式，本篇是全文的目录。

目录

1. 等式约束优化问题的拉格朗日条件

   我们将在这里尽量详细的介绍等式约束优化问题的 Lagrange condition ，我会尽量以符合直观，并且严谨的方式来写。

   特别的，阅读本文应该需要一定的凸优化基础。方便起见，文中的向量就不加粗了。

2. 不等式约束优化问题的KKT条件

   我们将在这里尽量详细的介绍不等式约束优化问题的 KKT condition ，我会尽量以符合直观，并且严谨的方式来写。

   特别的，阅读本文应该需要一定的凸优化基础。方便起见，文中的向量就不加粗了。

3. 拉格朗日对偶性

   从 Lagrange Condition 到 KKT Condition 再到 Lagrange Duality 是理论上的层层深入，我们会逐步的介绍对优化问题更深入的刻画。

   特别的，阅读本文应该需要一定的凸优化基础。方便起见，文中的向量就不加粗了。