凸函數

維基百科,自由的百科全書
跳到: 導覽搜尋
在區間上的凸函數

凸函數是一個定義在某個向量空間凸子集C區間)上的實值函數f,如果在其定義域C上的任意兩點x,y,以及t\in [0,1],有

f(tx+(1-t)y)\leq t f(x)+(1-t)f(y)

也就是說,一個函數是凸的當且僅當上境圖(在函數圖像上方的點集)為一個凸集

如果對於任意的t\in (0,1)

f(tx+(1-t)y) < t f(x)+(1-t)f(y),函數f嚴格凸的。

若對於任意的x,y,z,其中x\le z\le y,都有f(z)\leq \max\{f(x),\,f(y)\}, \,\,\, \forall x,y,z \,\,\, x\leq z\leq y,則稱函數f幾乎凸的。

性質[編輯]

函數(藍色)是凸的,當且僅當其上方的區域(綠色)是一個凸集

定義在某個開區間C內的凸函數fC連續,且在除可數個點之外的所有點可微。如果C是閉區間,那麼f有可能在C的端點不連續。

一元可微函數在某個區間上是凸的,當且僅當它的導數在該區間上單調不減

一元連續可微函數在區間上是凸的,當且僅當函數位於所有它的切線的上方:對於區間內的所有xy,都有f(y) ≥ f(x) + f '(x) (yx)。特別地,如果f '(c) = 0,那麼cf(x)的最小值

一元二階可微的函數在區間上是凸的,當且僅當它的二階導數是非負的;這可以用來判斷某個函數是不是凸函數。如果它的二階導數是正數,那麼函數就是嚴格凸的,但反過來不成立。例如,f(x) = x4的二階導數是f "(x) = 12 x2,當x = 0時為零,但x4是嚴格凸的。

更一般地,多元二次可微的連續函數在凸集上是凸的,當且僅當它的黑塞矩陣在凸集的內部是半正定的。

凸函數的任何極小值也是最小值。嚴格凸函數最多有一個最小值。

對於凸函數f水平子集{x | f(x) < a}和{x | f(x) ≤ a}(aR)是凸集。然而,水平子集是凸集的函數不一定是凸函數;這樣的函數稱為擬凸函數

延森不等式對於每一個凸函數f都成立。如果 X 是一個隨機變量,在f的定義域內取值,那麼E(f(X)) \geq f(E(X)). (在這裡,E表示數學期望。)

凸函數的初等運算[編輯]

  • 如果f g 是凸函數,那麼m(x) = \max\{f(x),g(x) \} h(x) = f(x) + g(x) 也是凸函數。
  • 如果f g 是凸函數,且g遞增,那麼h(x) = g(f(x))是凸函數。
  • 凸性在仿射映射下不變:也就是說,如果f(x) 是凸函數(x\in\mathbb{R}^n),那麼g(y) = f(Ay+b) 也是凸函數,其中A\in\mathbb{R}^{n \times m},\; b\in\mathbb{R}^m.
  • 如果f(x,y) (x,y) 內是凸函數,且C 是一個凸的非空集,那麼g(x) = \inf_{y\in C} f(x,y)x 內是凸函數,只要對於某個x ,有g(x) > -\infty

例子[編輯]

  • 函數f(x)=x^2處處有f\,''(x)=2>0,因此f是一個(嚴格的)凸函數。
  • 絕對值函數f(x)=|x|是凸函數,雖然它在點x = 0沒有導數。
  • 當1 ≤ p時,函數f(x)=|x|^p是凸函數。
  • 定義域為[0,1]的函數f,定義為f(0)=f(1)=1,當0<x<1時f(x)=0,是凸函數;它在開區間(0,1)內連續,但在0和1不連續。
  • 函數x3的二階導數為6x,因此它在x ≥ 0的集合上是凸函數,在x ≤ 0的集合上是凹函數
  • 每一個在\mathbb{R}內取值的線性變換都是凸函數,但不是嚴格凸函數,因為如果f是線性函數,那麼f(a + b) = f(a) + f(b)。如果我們把「凸」換為「凹」,那麼該命題也成立。
  • 每一個在\mathbb{R}內取值的仿射變換,也就是說,每一個形如f(x) = a^T x + b 的函數,既是凸函數又是凹函數。
  • 每一個範數都是凸函數,這是由於三角不等式
  • 如果f 是凸函數,那麼當t > 0 時,g(x,t) = tf(x/t) 是凸函數。
  • 單調遞增但非凸的函數包括f(x) = \sqrt xg(x) = \log(x)
  • 非單調遞增的凸函數包括h(x) = x^2k(x)=-x
  • 函數f(x) = 1/x2f(0)=+∞,在區間(0,+∞)內是凸函數,在區間(-∞,0)內也是凸函數,但是在區間(-∞,+∞)內不是凸函數,這是由於x = 0處的奇點。

參見[編輯]

參考文獻[編輯]

  • Moon, Todd. Tutorial: Convexity and Jensen's inequality. [2008-09-04]. 
  • Rockafellar, R. T. Convex analysis. Princeton: Princeton University Press. 1970. 
  • Luenberger, David. Linear and Nonlinear Programming. Addison-Wesley. 1984. 
  • Luenberger, David. Optimization by Vector Space Methods. Wiley & Sons. 1969. 
  • Bertsekas, Dimitri. Convex Analysis and Optimization. Athena Scientific. 2003. 
  • Thomson, Brian. Symmetric Properties of Real Functions. CRC Press. 1994. 
  • Hiriart-Urruty, Jean-Baptiste, and Lemaréchal, Claude. (2004). Fundamentals of Convex analysis. Berlin: Springer.
  • Krasnosel'skii M.A., Rutickii Ya.B. Convex Functions and Orlicz Spaces. Groningen: P.Noordhoff Ltd. 1961. 
  • Borwein, Jonathan, and Lewis, Adrian. (2000). Convex Analysis and Nonlinear Optimization. Springer.