卡羅需-庫恩-塔克條件

维基百科,自由的百科全书
跳转至: 导航搜索

數學中,卡羅需-库恩-塔克條件(英文原名:Karush-Kuhn-Tucker Conditions常見別名:Kuhn-Tucker,KKT條件,Karush-Kuhn-Tucker最優化條件,Karush-Kuhn-Tucker條件,Kuhn-Tucker最優化條件,Kuhn-Tucker條件)是在满足一些有规则的条件下,一個非線性規劃(Nonlinear Programming)問題能有最優化解法的一個必要和充分條件。這是一個廣義化拉格朗日乘數的成果。

考慮以下非線式最優化問題:

 \min\limits_{x}\;\; f(x)
 \mbox{Subject to: }\
 g_i(x) \le 0 , h_j(x) = 0

f(x)是需要最小化的函數,g_i (x)\ (i = 1, \ldots,m)是不等式約束,h_j (x)\ (j = 1,\ldots,l)是等式約束,ml分別為不等式約束和等式約束的數量。

不等式約束問題的必要和充分條件初見於卡羅需(William Karush)的博士論文[1],之後在一份由W.库恩(Harold W. Kuhn)及塔克(Albert W. Tucker)撰寫的研討生論文[2]出現後受到重視。

必要條件[编辑]

假設有目標函數,即是要被最小化的函數f : \mathbb{R}^n \rightarrow \mathbb{R},約束函數g_i : \,\!\mathbb{R}^n \rightarrow \mathbb{R}h_j : \,\!\mathbb{R}^n \rightarrow \mathbb{R}。再者,假設他們都是於x^*這點是连续可微的,如果x^*是一局部极小值,那麼將會存在一组所谓乘子的常数\lambda \ge 0, \mu_i \ge 0\ (i = 1,\ldots,m)\nu_j\ (j = 1,...,l)令到

\lambda + \sum_{i=1}^m \mu_i + \sum_{j=1}^l |\nu_j| > 0,
\lambda\nabla f(x^*) + \sum_{i=1}^m \mu_i \nabla g_i(x^*) + \sum_{j=1}^l \nu_j \nabla h_j(x^*) = 0,
\mu_i g_i (x^*) = 0\; \mbox{for all}\; i = 1,\ldots,m

正則性條件或約束規範[编辑]

於上述必要和充分條件中,dual multiplier \lambda可能是零。當\lambda是零時,這個情況就是退化的或反常的。因此必要和充分條件會將約束的幾何特性而不是將函數自身的特點納入計算。

有一定數量的正則性條件能保證解法不是退化的(即\lambda \ne 0),它們包括:

  • 線性獨立約束規範(Linear independence constraint qualification,LICQ):有效不等式約束的梯度(和等式約束的梯度於x^*線性獨立。
  • Mangasarian-Fromowitz約束規範(Mangasarian-Fromowitz constraint qualification,MFCQ):有效不等式約束的梯度和等式約束的梯度於x^*正線性獨立。
  • 常秩約束規範(Constant rank constraint qualification、CRCQ):考慮每個有效不等式約束的梯度子集和等式約束的梯度,於x^*的鄰近區域的秩(rank)不變。
  • 常正線性依賴約束規範(Constant positive linear dependence constraint qualification,CPLD):考慮每個有效不等式約束的梯度子集和等式約束的梯度,如果它們於x^*是正線性依賴,那麼它們於x^*的鄰近區域也是正線性依賴。(如果存在a_1\geq 0,\ldots,a_n\geq 0 not all zero令到a_1v_1+\ldots+a_nv_n=0,那麼\{v_1,\ldots,v_n\}是正線性依賴)
  • 斯萊特條件(Slater condition):如果問題只包含不等式約束,那麼有一點x令到g_i(x) < 0 for all i = 1,\ldots,m

雖然MFCQ不等同於CRCQ,但可證出LICQ=>MFCQ=>CPLD,LICQ=>CRCQ=>CPLD。於實際情況下,較弱的約束規範會被傾向使用,這是因為較弱的約束規範能提供較強的最優化條件。

充分條件[编辑]

假設目標函數f: \mathbb{R}^n \rightarrow \mathbb{R}及約束函數g_i : \mathbb{R}^n \rightarrow \mathbb{R}皆為 函數,而h_j : \mathbb{R}^n \rightarrow \mathbb{R}是一仿射函數,假設有一可行點x^*,如果有常數\mu_i \ge 0\ (i = 1,\ldots,m)\nu_j\ (j = 1,\ldots,l)令到

\nabla f(x^*) + \sum_{i=1}^m \mu_i \nabla g_i(x^*) + \sum_{j=1}^l \nu_j \nabla h_j(x^*) = 0
\mu_i g_i (x^*) = 0\; \mbox{for all}\; i = 1,\ldots,m,

那麼x^*這點是一全局极小值

註釋[编辑]

  1. ^ W. Karush. Minima of Functions of Several Variables with Inequalities as Side Constraints. M.Sc. Dissertation. Dept. of Mathematics, Univ. of Chicago, Chicago, Illinois. 1939. .此論文可於以下網址得到:http://wwwlib.umi.com/dxweb/details?doc_no=7371591 (需付費)
  2. ^ Kuhn, H. W.; Tucker, A. W.. Nonlinear programming. Proceedings of 2nd Berkeley Symposium. Berkeley: University of California Press. 1951: pp. 481-492. 

參考文獻[编辑]

  • Avriel, Mordecai (2003). Nonlinear Programming: Analysis and Methods. Dover Publishing. ISBN 0-486-43227-0.
  • R. Andreani, J. M. Martínez, M. L. Schuverdt, On the relation between constant positive linear dependence condition and quasinormality constraint qualification. Journal of optimization theory and applications, vol. 125, no2, pp. 473-485 (2005).