KKT conditions

Table of Contents

1 KKT最优化条件简介

拉格朗日乘数法,可以解决带有约束条件的极值问题,但要求约束条件都是“等式”。现实生活中会遇到约束条件为“不等式”的情况。KKT最优化条件可以解决约束条件含有“不等式”的情况,可以看作是拉格朗日乘数法的推广。

KKT(Karush-Kuhn-Tucker) 名字来源于三个人名的缩写:不等式约束问题的必要和充分条件初见于卡罗需(William Karush)的博士论文,在一份由W.库恩(Harold W. Kuhn)及塔克(Albert W. Tucker)撰写的研讨生论文出现后才受到重视。

2 KKT最优化条件(拉格朗日乘数法的推广)

这里讨论的优化问题一般可表述为:求满足条件 \(g_i(\boldsymbol{x}) \le 0, \, \forall i = 1, \cdots, m\) 和 \(h_j(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, n\) 时函数 \(f(\boldsymbol{x})\) 的极小值。这个条件约束问题可记为下面形式:
\[\begin{aligned} & \underset{\boldsymbol{x}}{\text{minimize}} & & f(\boldsymbol{x}) \\ & \text{subject to} & & g_i(\boldsymbol{x}) \le 0, \; i = 1,2,\cdots,m \\ &&& h_j(\boldsymbol{x}) = 0, \; j = 1,2,\cdots,n \end{aligned}\]

其中 \(\boldsymbol{x}\) 是一个向量,可表示任意多个变量。 \(f\) 是目标函数或代价函数, \(g_i\) 是不等式约束条件(共 \(m\) 个), \(h_j\) 是等式约束条件(共 \(n\) 个)。

KKT最优化条件(KKT conditions)是指,目标函数可能的极小值点满足:
\[\begin{cases} \nabla f(\boldsymbol{x}) + \sum_{i=1}^{m} \mu_i \nabla g_i(\boldsymbol{x}) + \sum_{j=1}^{n} \lambda_j \nabla h_j(\boldsymbol{x}) = 0 \\ g_i(\boldsymbol{x}) \le 0, \, \forall i = 1, \cdots, m \\ h_j(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, n \\ \mu_i \ge 0, \, \forall i = 1, \cdots, m \\ \mu_i g_i(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, m \end{cases}\]

在上面的方程组中,如果没有“不等式”约束条件,即 \(m=0\) ,则KKT最优化条件就是拉格朗日乘数法中极值点满足的方程组:
\[\begin{cases} \nabla f(\boldsymbol{x}) + \sum_{j=1}^{n} \lambda_j \nabla h_j(\boldsymbol{x}) = 0 \\ h_j(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, n \\ \end{cases}\]
所以KKT最优化条件是拉格朗日乘数法的推广,拉格朗日乘数法是KKT最优化条件的特例。

KKT条件中的第一个条件和拉格朗日乘数法中的条件是一样的;第二、三个条件是显而易见的,因为它们就是题设的约束条件;第四个条件称为Dual Feasibility Condition;最后一个条件称为互补松弛条件(Complementary Slackness Condition)。

特别注意: 和拉格朗日乘数法类似,KKT最优化条件只是必要条件。也就是最优解一定满足KKT条件,但满足KKT条件的解不一定是最优解。 我们往往根据具体问题的性质来判断找到的是不是最优解。

2.1 如何理解“互补松弛条件”

KKT条件中的互补松弛条件为:
\[\mu_i g_i(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, m\]

“互补松弛”的字面含义是:
对 \(g_i(\boldsymbol{x})\) 的限制不严格时,对 \(\mu_i\) 的限制就很严格。即当 \(g_i(\boldsymbol{x})\) 没有特别限定,只需满足题设的约束条件( \(g_i(\boldsymbol{x}) < 0\) )时, \(\mu_i = 0\) ;
对 \(g_i(\boldsymbol{x})\) 的限制很严格时,对 \(\mu_i\) 的限制就不严格。即当 \(g_i(\boldsymbol{x}) = 0\) 时,对 \(\mu_i\) 没有特别限制。

怎么形象地理解它呢?参见图 1

Sorry, your browser does not support SVG.

Figure 1: KKT的互补松弛条件(摘自KKT Wikipedia)

1 中闭合的一层层圆环是目标函数 \(f(\boldsymbol{x})\) 对应的等高线图, \(\boldsymbol{x}^{*}\) 是极值点。左子图中,极值点在 \(g_i\) 内部取得(限制不严格),对应的KKT乘数 \(\mu_i\) 应该为0(这种情况下我们不需要关心 \(g_i\) 的具体表达式);右子图中,极值点在 \(g_i\) 边界处取得(限制很严格),对应的KKT乘数 \(\mu_i\) 无特别要求。

参考:
Karush-Kuhn-Tucker (KKT) conditions
Lagrange multiplier的 Wikipedia 有目标函数的等高线图的简单例子。

2.2 用KKT最优化条件求极大值

一般在描述最优化问题时,我们习惯于讨论极小值。极大值问题可以方便地转换为极小值问题。

如何求解最大值的最优化问题:
\[\begin{aligned} & \text{maximize} & & f(\boldsymbol{x}) \\ & \text{subject to} & & g_i(\boldsymbol{x}) \le 0, \; i = 1,2,\cdots,m \\ &&& h_j(\boldsymbol{x}) = 0, \; j = 1,2,\cdots,n \end{aligned}\]

显然,这个问题可以方便地转换为前面介绍过的最小值的最优化问题:
\[\begin{aligned} & \text{minimize} & & - f(\boldsymbol{x}) \\ & \text{subject to} & & g_i(\boldsymbol{x}) \le 0, \; i = 1,2,\cdots,m \\ &&& h_j(\boldsymbol{x}) = 0, \; j = 1,2,\cdots,n \end{aligned}\]

此时,对应的KKT最优化条件为:
\[\begin{cases} \nabla f(\boldsymbol{x}) - \sum_{i=1}^{m} \mu_i \nabla g_i(\boldsymbol{x}) + \sum_{j=1}^{n} \lambda_j \nabla h_j(\boldsymbol{x}) = 0 \\ g_i(\boldsymbol{x}) \le 0, \, \forall i = 1, \cdots, m \\ h_j(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, n \\ \mu_i \ge 0, \, \forall i = 1, \cdots, m \\ \mu_i g_i(\boldsymbol{x}) = 0, \, \forall j = 1, \cdots, m \end{cases}\]

2.3 一般仅用KKT最优化条件来验证找到的解

The KKT conditions are usually not solved directly in the analysis of practical large nonlinear programming problems by software packages. Iterative successive approximation methods are most often used. The results, however they are obtained, must satisfy these conditions.

摘自:http://ocw.mit.edu/courses/mechanical-engineering/2-854-introduction-to-manufacturing-systems-fall-2010/lecture-notes/MIT2_854F10_kkt_ex.pdf

3 实例:求不等式约束条件下函数的最小值

求解下面优化问题:
\[\begin{aligned} & \underset{x,y}{\text{minimize}} & & f(x,y) = x^2 + 2y^2 \\ & \text{subject to} & & x + y \ge 3 \\ &&& y - x^2 \ge 1 \end{aligned}\]

解:两个“不等式”约束条件为: \(g_1(x,y) = -x -y + 3 \le 0, \, g_2(x,y) = x^2 -y + 1 \le 0\) ,拉格朗日函数为: \(L(x,y) = x^2 + 2y^2 + \lambda_1 (-x - y +3) + \lambda_2 (x^2 -y + 1)\) ,所以KKT条件为:
\[\begin{cases} \dfrac{\partial L}{\partial x} = 2x - \lambda_1 + 2 \lambda_2 x = 0 \\ \dfrac{\partial L}{\partial y} = 4y - \lambda_1 - \lambda_2 = 0 \\ -x -y + 3 \le 0 \\ x^2 -y + 1 \le 0 \\ \lambda_1 \ge 0 \\ \lambda_2 \ge 0 \\ \lambda_1 (-x - y +3) = 0 \\ \lambda_2 (x^2 -y + 1) = 0 \end{cases}\]

情况1:假设 \(\lambda_1 = \lambda_2 = 0\) ,则由第1,2式得 \(x=0\) 和 \(y=0\) ,但这和第3,4式矛盾。
情况2:假设 \(\lambda_1 > 0, \lambda_2 = 0\) ,则由 \(\begin{cases} 2x - \lambda_1 = 0 \\ 4y - \lambda_1 = 0 \\ \lambda_1 (-x - y +3) = 0 \end{cases}\) 得 \(x=2, y=1\) ,但这和 \(x^2 -y + 1 \le 0\) 矛盾。
情况3:假设 \(\lambda_1 = 0, \lambda_2 > 0\) ,则由 \(\begin{cases} 2x + 2 \lambda_2 x = 0 \\ 4y - \lambda_2 = 0 \end{cases}\) 得 \(x=0, y=1\) ,但这和 \(-x -y + 3 \le 0\) 矛盾。
情况4:假设 \(\lambda_1 > 0, \lambda_2 > 0\) ,则由 \(\begin{cases} -x - y + 3 = 0 \\ x^2 -y + 1 = 0 \end{cases}\) 得 \(x = -2, y= 5\) 或者 \(x=1, y=2\) 。先考虑 \(x = -2, y= 5\) ,这时第1式变为 \(-4 - \lambda_1 - 4 \lambda_2 = 0\) ,而 \(\lambda_1\) 和 \(\lambda_2\) 都是负数,显然不可能有解。再考虑 \(x=1, y=2\) ,这时由第1,2式可以得到 \(\lambda_1 = 6, \lambda_2 = 2\) 。
至此,我们找到一个满足KKT所有条件的唯一解: \(x=1, y=2\) ,而原问题的最小值显然一定存在,所以解 \(x=1, y=2\) 就是问题的解。

参考:
Optimization models and applications: http://myweb.clemson.edu/~pbelott/bulk/teaching/lehigh/ie426-f09/lecture20.pdf

4 从局部最优解到全局最优解(凸优化)

拉格朗日乘数法和KKT最优化条件找到的解都只是问题的“可能局部最优解”。
凸优化(Convex optimization)中有一个重要性质——局部最优解就是全局最优解。 当然,凸优化要求函数 \(f\) 为凸函数,而拉格朗日乘数法和KKT最优化条件并没有这个要求。


Author: cig01

Created: <2015-04-11 Sat 00:00>

Last updated: <2017-12-05 Tue 10:05>

Creator: Emacs 25.3.1 (Org mode 9.1.4)