最优控制是建立在最优化基础上的，它所处理的是无穷维路径函数的泛函极值问题，而后者是处理的对有限个参数所构成的函数的优化问题。也就是说，最优化处理的是${\min }_{\mathbf{x}}L(\mathbf{x}),\mathbf{x}\in {\mathbb{R}}^n$；而最优控制处理的是${\min }_{\mathbf{x}(t)}L(\mathbf{x}(t)),\mathbf{x}(t)\in {\mathbb{R}}^n$的问题，其中$t$为独立变量，$\mathbf{x}$都是被优化的变量。

对于最优控制问题而言，在处理等式约束条件时，采用的协态变量实际上就是时变的Lagrange乘子。具体而言，在变分法章节讲述终端约束$\psi (x(t_f),t_f)=0$时，直接引入了Lagrange乘数$\mu \in {\mathbb{R}}^m$；同样在处理路径等式约束$f(x(t),\dot{x}(t),t)=0$时，在Hamilton函数中引入了Lagrange乘子$\lambda (t)\in {\mathbb{R}}^n$。事实上，在最优化问题${\min }_{\mathbf{x}}L(\mathbf{x}),s.t.g(\mathbf{x})=0$ 时，这种方法也是类似的。

本篇博客从等式约束最优化开始，进一步解释不等式约束最优化问题的必要条件，即KKT条件。

1. 等式约束最优化

下面举一个例子来说明拉格朗日乘子法在最优化问题中的应用：

例1：等式约束凸二次规划
$$\underset{x\in {\mathbb{R}}^n}{\min }\frac{1}{2}{x}^{\mathrm{T}}Px+q^{\mathrm{T}}x,s.t.Ax=b$$

其中$b\in {\mathbb{R}}^m,A\in {\mathbb{R}}^{n\ast m},rank(A)=m,m\le n$。同样引入Lagrange乘子$\lambda \in {\mathbb{R}}^m$，构建Hamilton函数
$$H(x,\lambda )=\frac{1}{2}{x}^{\mathrm{T}}Px+q^{\mathrm{T}}x+{\lambda }^{\mathrm{T}}(Ax-b)$$

于是，等式约束优化问题转化为对无约束Hamilton函数的优化问题。最优解$x^{\ast }$和乘数${\lambda }^{\ast }$服从一阶必要条件
$$\begin{gathered} \frac{\partial H}{\partial x^{\ast }}=P{x}^{\ast }+q+A{\lambda }^{\ast }=0 \\ \frac{\partial H}{\partial {\lambda }^{\ast }}=A{x}^{\ast }-b=0 \end{gathered}$$

该问题构成$m+n$维的线性方程组，若矩阵不奇异，则可以求出最优解。该问题的数值求解方法可见 zealscott-等式约束优化，不会的可以直接调用MATLAB函数$\mathtt{f}\mathtt{m}\mathtt{i}\mathtt{n}\mathtt{c}\mathtt{o}\mathtt{n}$.

利用**Lagrange乘子法，可以把等式约束问题转化为无约束问题，**这个无约束问题求解Hamilton函数的极值。下面我们再来了解一下Lagrange乘子的物理意义。问题 知乎-如何理解拉格朗日乘子法？从各个角度都进行了回答，我在这里简单摘取别人的话。

• 从平面几何角度。极值点处，函数等势面$f(x)=\text{c}$和等式约束$g(x)=0$的切线相切，也就是说两个梯度$\nabla f(x),\nabla g(x)$共线，而这个梯度前面的系数是Lagrange乘数$\lambda$。梯度共线，意味着每个方向$x_i$上都有偏导数成比例，即
  $$\frac{\partial f}{\partial x_i}=-{\lambda }_i\frac{\partial g}{\partial x_i}$$

  那么写成向量形式就是$\nabla f(x)+{\lambda }^{\mathrm{T}}\nabla g(x)=0$

• 从代数角度。我们所定义的多元标量函数$H(x,\lambda )=f(x)+{\lambda }^{\mathrm{T}}g(x)$，是一个无约束优化问题，它在极值点的必要条件就是，对自变量$\lambda ,x$的梯度都为0。即
  $$\begin{gathered} \frac{\partial H}{\partial x}=\nabla f+{\lambda }^{\mathrm{T}}\nabla g=0 \\ \frac{\partial H}{\partial \lambda }=g(x)=0 \end{gathered}$$

  第一个式子是必要条件，第二个式子是等式约束，这两个同时满足才行。

• 从函数构造方面来说，如果等式约束自然满足$g(x)=0$，那显然哈密尔顿函数的第二项就没有了，即$H(x,\lambda )=f(x)$。从这个意义上来说，所构造Hamilton函数和原问题是等价的。

2. 不等式约束最优化

上面讲述了等式约束最优化的处理方法，采用Lagrange乘子法把约束问题转化为无约束问题。下面我们来讨论不等式约束最优化问题，不同之处在于不等式约束是否active是需要分类讨论的。

2.1 1个不等式约束

为简单起见，首先考虑一个不等式的情况，例如$g(x)=-x+c\le 0$。
$$\underset{x}{\min }f(x),s.t.g(x)\le 0$$

不等式约束的处理方法要从不等式约束有没有 起作用（active） 谈起。阴影部分为与不等式冲突的区域，即$g(x)>0$，下图反映了不等式与极小值之间的两种情况

$x^{\ast }$不在不等式边界上，图1	$x^{\ast }$在不等式边界上，图2
$g(x^{\ast })<0,\mu =0$	$g(x^{\ast })=0,\mu >0$

图1，最小值本来就在$g(x^{\ast })<0$的部分取得；图2，由于受到不等式的约束，函数极小值只能在边界处取得，此时，$g(x^{\ast })=0$。如果引入松弛变量$\mu \in \mathbb{R}$，把不等式约束暂且用等式约束的方法来处理，构建如下形式的Hamilton函数，$H(x,\mu )=f(x)+\mu g(x)$。函数取得极值的一阶必要条件为
$$\begin{array}{rl}& \frac{\partial H}{\partial x}=\nabla f(x^{\ast })+\mu \nabla g(x^{\ast })=0\\ & g(x^{\ast })\le 0\\ & \mu \{\begin{array}{llc}=0,& g(x^{\ast })<0& \text{(本来就满足,约束条件不影响结果)}\\ >0,& g(x^{\ast })=0& \text{(限制了最小值的取得)}\end{array}\end{array}$$

上式$\nabla (\cdot )=\frac{\partial (\cdot )}{\partial x}$，把两种情况写作一个条件，即
$$\{\begin{array}{c}\mu \ge 0\\ \mu \cdot g(x^{\ast })=0\end{array}$$

下面解释为什么松弛变量$\mu \ge 0$而不能小于0. 我们引入松弛变量$\mu$的目的是，使新的问题和原始问题等价，只有这样才能保证等价。大于号和等于号对应了不等式约束对优化问题的限制行为，这个由图1和图2就可以明显看出来。当$\mu =0$时，不等式约束是可有可无的，没有它求出的极小值和原来的一样。当$\mu >0$时，和约束冲突的解$\forall x,g(x)>0$必然使得$H(x,\mu )=f(x)+\mu g(x)>f(x)$，这也就避免了它取这个点。从一阶必要条件来看，如果极小值就恰好在不等式的边界取得，此时，$\nabla f(x)>0(\to ),\nabla g(x)<0(\leftarrow )$，要使两者达到平衡的系数是$\mu >0$，这样$\nabla f(x^{\ast })+\mu \nabla g(x^{\ast })=0$.

2.2 KKT条件

2.1节函数极小值的必要条件即为KKT条件，Karush–Kuhn–Tucker conditions。参考doubleslow- KKT条件详解这篇文章，以下直接给出KKT条件。设不等式+等式约束的非线性最优化问题如下
$$\underset{\mathbf{x}}{\min }f(\mathbf{x}),s.t.\begin{array}{r}\mathbf{h}(\mathbf{x})=0\\ \mathbf{g}(\mathbf{x})\le 0\end{array}$$

其中$\mathbf{x}\in {\mathbb{R}}^n$为多元向量，$f(x)$为标量函数，$\mathbf{h}\in {\mathbb{R}}^p,\mathbf{g}\in {\mathbb{R}}^q$为多元向量函数，对该问题引入Lagrange乘子$\lambda \in {\mathbb{R}}^p$，松弛变量$\mu \in {\mathbb{R}}^q$. 构建Hamilton函数
$$H(x,\lambda ,\mu )=f(x)+{\lambda }^{\mathrm{T}}h(x)+{\mu }^{\mathrm{T}}g(x)$$

该问题的KKT条件为
$$\{\begin{array}{cc}\nabla H=0& (一阶必要条件)\\ \mathbf{h}({\mathbf{x}}^{\ast })=0,\mathbf{g}(\mathbf{x})\le 0& (原始约束)\\ {\lambda }_i\ne 0& (等式约束始终起作用)\\ {\mu }_j{g}_j({\mathbf{x}}^{\ast })=0& (互补松弛性)\\ {\mu }_j\ge 0& (松弛变量非负)\end{array}$$
上式$\nabla (\cdot )=\frac{\partial (\cdot )}{\partial x}\in {\mathbb{R}}^n，i=1,2,\cdots ,p,j=1,2,\cdots ,q$.

2.3 二维不等式约束图解

下面是一个不等式约束的非线性规划问题，
$$\begin{gathered} \underset{x,y}{\min }f(x,y)=x\exp [-(x^2+y^2)]+(x^2+y^2)/20 \\ s.t.g(x,y)=xy/2+(x+2{)}^2+(y-2{)}^2/2-c\le 0 \end{gathered}$$

同样用梯度法来解释，有下面的二维图形，红色弧线内部是不等式满足的区域，即$g(x)<0$。图3的极小值点是无约束问题本来的极小值点。在这一点$x^{\ast }$，不等式约束不起作用，要使得$H(x,y,{\mu }_1,{\mu }_2)=f(x,y)$，所以${\mu }_j=0$。图4中，极小值是在不等式边界上取得的。在这一点$x^{\ast }$，梯度沿$x,y$方向互相成比例，即${\nabla }_{x}f(x^{\ast })+{\mu }_1{\nabla }_{x}g(x^{\ast })=0,{\nabla }_{y}f(x^{\ast })+{\mu }_2{\nabla }_{y}g(x^{\ast })=0$ ，由于梯度是反向的，所以${\mu }_j>0$.

$c=5,x^{\ast }$不在不等式边界上，图3	$c=2,x^{\ast }$在不等式边界上，图4
$g(x^{\ast })<0,\mu =0$	$g(x^{\ast })=0,\mu >0$

实际上和下面这篇文章的表达方式一样，知乎-图解KKT条件和拉格朗日乘子法 ，绘图解释了二维函数+线性不等式约束KKT条件。

3. MATLAB不等式约束优化

很多形式规范的约束最优化问题都可以直接调用MATLAB中现有的优化函数，下面是各类情形常用来的求解算法：

需要注意的是，并不是所有优化问题都可以用这些算法，（比如一些有很多局部最优解的问题就只能用智能优化算法），以上表格中列举的算法求解对应形式的问题效率非常高，而采用智能算法的效率就不一定更高。

总结

一言以蔽之，等式约束的最优性条件就是说被优化函数的梯度，等于多个等式约束函数梯度的线性组合，由于等式约束是互相线性无关的，所以等式约束的函数梯度的线性组合系数就是拉格朗日乘子。

不等式约束的自由训条件是说被优化函数的梯度，等于多个等式约束以及起作用的(active)不等式约束的梯度的线性组合，然后这个组合系数的就是每个等式的线性

4. 参考文献

[1] Bryson A E , Ho Y C ,Applied optimal control : optimization, estimation, and control Sec 1.1~Sec 1.7 [J]. IEEE Transactions on Systems Man & Cybernetics, 1975
[2]. 见文中的链接。
[3]. 桂。cnblogs 最优化：拉格朗日乘子法