定律与定理 › 定理

卡罗需-库恩-塔克条件

Karush–Kuhn–Tucker conditions

first-order necessary conditions for a solution in nonlinear programming to be optimal

在数学中,卡鲁什-库恩-塔克条件 是在满足一些有规则的条件下,一个非线性规划问题能有最优化解法的一个必要条件。这是一个使用广义拉格朗日函数的结果。

摘自维基百科「卡鲁什-库恩-塔克条件」,CC BY-SA 4.0

类型
定理
命名来源
阿尔伯特·W·塔克、卡鲁什、哈罗德·库恩
研究学科
数学规划、最优化
学科
数学

相关科学家

百科正文

  • 考虑以下非线式最优化问题: min ₓ f(x)
  • Subject to: (公式略)
  • gᵢ(x)≤ 0,hⱼ(x)=0

f(x) 是需要最小化的函数, gᵢ(x) (i=1,…,m) 是不等式约束, hⱼ(x) (j=1,…,l) 是等式约束, m 和 l 分别为不等式约束和等式约束的数量。

不等式约束问题的必要和充分条件初见于威廉·卡鲁什的硕士论文,之后在一份由哈罗德·W·库恩及阿尔伯特·W·塔克撰写的研究生论文出现后受到重视。

必要条件

假设有目标函数,即是要被最小化的函数 f:R ⁿ→ R,约束函数 gᵢ: R ⁿ→ R 及 hⱼ: R ⁿ→ R。再者,假设他们都是于 x^(*) 这点是连续可微的,如果 x^(*) 是一局部极小值,那么将会存在一组所谓乘子的常数 λ ≥ 0, μ ᵢ≥ 0 (i=1,…,m) 及 ν ⱼ (j=1,...,l) 令到 λ +∑ ᵢ₌₁^(m)μ ᵢ+∑ ⱼ₌₁^(l)|ν ⱼ|>0,

λ λ ∇ f(x^(*))+∑ ᵢ₌₁^(m)μ ᵢ∇ gᵢ(x^(*))+∑ ⱼ₌₁^(l)ν ⱼ∇ hⱼ(x^(*))=0,

μ μ ᵢgᵢ(x^(*))=0 for all i=1,…,m。

正则性条件或约束规范

于上述必要和充分条件中,dual multiplier λ 可能是零。当 λ 是零时,这个情况就是退化的或反常的。因此必要和充分条件会将约束的几何特性而不是将函数自身的特点纳入计算。

有一定数量的正则性条件能保证解法不是退化的(即 λ ≠ 0),它们包括:

线性独立约束规范(Linear independence constraint qualification,LICQ):有效不等式约束的梯度和等式约束的梯度于 x^(*) 线性独立。

Mangasarian-Fromowitz约束规范(Mangasarian-Fromowitz constraint qualification,MFCQ):有效不等式约束的梯度和等式约束的梯度于 x^(*) 正线性独立。

常秩约束规范(Constant rank constraint qualification、CRCQ):考虑每个有效不等式约束的梯度子集和等式约束的梯度,于 x^(*) 的邻近区域的秩(rank)不变。

常正线性依赖约束规范(Constant positive linear dependence constraint qualification,CPLD):考虑每个有效不等式约束的梯度子集和等式约束的梯度,如果它们于 x^(*) 是正线性依赖,那么它们于 x^(*) 的邻近区域也是正线性依赖。(如果存在 a₁≥ 0,…,aₙ≥ 0 not all zero令到 a₁v₁+… +aₙvₙ=0,那么 (公式略) 是正线性依赖)

斯莱特条件(Slater condition):如果问题只包含不等式约束,那么有一点 x 令到 gᵢ(x)<0 for all i=1,…,m

虽然MFCQ不等同于CRCQ,但可证出LICQ⇒MFCQ⇒CPLD,LICQ⇒CRCQ⇒CPLD。于实际情况下,较弱的约束规范会被倾向使用,这是因为较弱的约束规范能提供较强的最优化条件。

充分条件

假设目标函数 f:R ⁿ→ R 及约束函数 gᵢ:R ⁿ→ R 皆为

凸函数,而 hⱼ:R ⁿ→ R 是一仿射函数,假设有一可行点 x^(*),如果有常数 μ ᵢ≥ 0 (i=1,…,m) 及 ν ⱼ (j=1,…,l) 令到 ∇ f(x^(*))+∑ ᵢ₌₁^(m)μ ᵢ∇ gᵢ(x^(*))+∑ ⱼ₌₁^(l)ν ⱼ∇ hⱼ(x^(*))=0

μ μ ᵢgᵢ(x^(*))=0 for all i=1,…,m,

那么 x^(*) 这点是一全局极小值。

以上内容摘自维基百科「卡鲁什-库恩-塔克条件」,按 CC BY-SA 4.0 使用,去掉了参考文献、外部链接等尾部小节,公式改写成了纯文本。全文、配图和出处见原文。

同一学科的其他定理