卡罗需－库恩－塔克条件

article/2025/9/13 1:38:56

卡罗需－库恩－塔克条件

维基百科，自由的百科全书

在数学中，卡罗需-库恩-塔克条件（英文原名: Karush-Kuhn-Tucker Conditions常见别名: Kuhn-Tucker，KKT条件，Karush-Kuhn-Tucker最优化条件， Karush-Kuhn-Tucker条件，Kuhn-Tucker最优化条件，Kuhn-Tucker条件）是在满足一些有规则的条件下，一个非线性规划（Nonlinear Programming）问题能有最优化解法的一个必要和充分条件。这是一个广义化拉格朗日乘数的成果。

考虑以下非线式最优化问题:

$\min\limits_{x}\;\; f(x)$

$\mbox{Subject to: }\$

$g_i(x) \le 0 , h_j(x) = 0$

$f(x)$ 是需要最小化的函数， $g_i (x)\ (i = 1, \ldots,m)$ 是不等式约束， $h_j (x)\ (j = 1,\ldots,l)$ 乃等式约束， $m$ 和 $l$ 分别为不等式约束和等式约束的数量。

不等式约束问题的必要和充分条件初见于卡罗需（William Karush）的博士论文^[1]，之后在一份由W.卡（Harold W. Kuhn）及塔克（Albert W. Tucker）撰写的研讨生论文^[2] 出现后受到重视。

[编辑]必要条件

假设有目标函数，即是要被最小化的函数 $f : \mathbb{R}^n \rightarrow \mathbb{R}$ ，约束函数 $g_i : \,\!\mathbb{R}^n \rightarrow \mathbb{R}$ 及 $h_j : \,\!\mathbb{R}^n \rightarrow \mathbb{R}$ 。再者，假设他们都是于 $x^*$ 这点是连续可微的，如果 $x^*$ 是一局部极小值，那么将会存在一组所谓乘子的常数 $\lambda \ge 0$ , $\mu_i \ge 0\ (i = 1,\ldots,m)$ 及 $\nu_j\ (j = 1,...,l)$ 令到

$\lambda + \sum_{i=1}^m \mu_i + \sum_{j=1}^l |\nu_j| > 0,$

$\lambda\nabla f(x^*) + \sum_{i=1}^m \mu_i \nabla g_i(x^*) + \sum_{j=1}^l \nu_j \nabla h_j(x^*) = 0,$

$\mu_i g_i (x^*) = 0\; \mbox{for all}\; i = 1,\ldots,m$ 。

[编辑]正则性条件或约束规范

于上述必要和充分条件中，dual multiplier $\lambda$ 可能是零。当 $\lambda$ 是零时，这个情况就是退化的或反常的。因此必要和充分条件会将约束的几何特性而不是将函数自身的特点纳入计算。

有一定数量的正则性条件能保证解法不是退化的（即 $\lambda \ne 0$ ），它们包括:

线性独立约束规范（Linear independence constraint qualification)(LICQ）:有效不等式约束的梯度（和等式约束的梯度于 $x^*$ 线性独立。

Mangasarian-Fromowitz约束规范（Mangasarian-Fromowitz constraint qualification)(MFCQ）:有效不等式约束的梯度和等式约束的梯度于 $x^*$ 正线性独立。

常秩约束规范 (Constant rank constraint qualification) (CRCQ) :考虑每个有效不等式约束的梯度子集和等式约束的梯度，于 $x^*$ 的邻近区域的秩（rank）不变。

常正线性依赖约束规范（Constant positive linear dependence constraint qualification)(CPLD）:考虑每个有效不等式约束的梯度子集和等式约束的梯度，如果它们于 $x^*$ 是正线性依赖，那么它们于 $x^*$ 的邻近区域也是正线性依赖。(如果存在 $a_1\geq 0,\ldots,a_n\geq 0$ not all zero令到 $a_1v_1+\ldots+a_nv_n=0$ ，那么 $\{v_1,\ldots,v_n\}$ 是正线性依赖)

斯莱特条件（Slater condition）:如果问题只包含不等式约束，那么有一点 $x$ 令到 $g_i(x) < 0$ for all $i = 1,\ldots,m$

虽然MFCQ不等同于CRCQ，但可证出LICQ=>MFCQ=>CPLD，LICQ=>CRCQ=>CPLD。于实际情况下，较弱的约束规范会被倾向使用，这是因为较弱的约束规范能提供较强的最优化条件。

[编辑]充分条件

假设目标函数 $f: \mathbb{R}^n \rightarrow \mathbb{R}$ 及约束函数 $g_i : \mathbb{R}^n \rightarrow \mathbb{R}$ 皆为凸函数，而 $h_j : \mathbb{R}^n \rightarrow \mathbb{R}$ 是一仿射函数，假设有一可行点 $x^*$ ，如果有常数 $\mu_i \ge 0\ (i = 1,\ldots,m)$ 及 $\nu_j\ (j = 1,\ldots,l)$ 令到

$\nabla f(x^*) + \sum_{i=1}^m \mu_i \nabla g_i(x^*) + \sum_{j=1}^l \nu_j \nabla h_j(x^*) = 0$

$\mu_i g_i (x^*) = 0\; \mbox{for all}\; i = 1,\ldots,m,$

那么 $x^*$ 这点是一全局极小值.

[编辑]注释

^ W. Karush. Minima of Functions of Several Variables with Inequalities as Side Constraints, M.Sc. Dissertation. Dept. of Mathematics, Univ. of Chicago, Chicago, Illinois. 1939..此论文可于以下网址得到：http://wwwlib.umi.com/dxweb/details?doc_no=7371591 (需付费)
^ Kuhn, H. W.; Tucker, A. W.. Nonlinear programming. Proceedings of 2nd Berkeley Symposium. Berkeley: University of California Press. 1951: pp. 481-492.

[编辑]参考文献

Avriel, Mordecai (2003). Nonlinear Programming: Analysis and Methods. Dover Publishing. ISBN 0-486-43227-0.
R. Andreani, J. M. Martínez, M. L. Schuverdt, On the relation between constant positive linear dependence condition and quasinormality constraint qualification. Journal of optimization theory and applications, vol. 125, no2, pp. 473-485 (2005).