凸函數（convex function）

凸函數就是圖像能兜住水的函數——它像碗一樣向上彎，中間從不鼓起。其定義圖景很簡單：在圖像上任取兩點，作它們之間的直弦；對凸函數，弦總是落在圖像之上或與之重合。沒有不同時是全域最低點的局部凹陷，也沒有可供困住的隱藏山谷。

精確地說，f 是凸的，若對任意兩點和任意介於 0 與 1 之間的混合比例 t，有 f(t x + (1-t) y) 小於等於 t f(x) + (1-t) f(y)——加權平均處的函數值絕不超過函數值的加權平均。對光滑多元函數有一個乾淨的二階判別：f 凸當且僅當它的黑塞矩陣處處半正定，這正是在每個方向上向上彎的多元表述。嚴格凸（曲率嚴格為正）意味著碗有唯一而尖銳的底。

凸性是分隔我們能可靠求解與不能可靠求解的最佳化問題的分水嶺。對凸可行集上的凸目標，每個局部極小自動是全域極小，於是任何下坡的方法——包括梯度下降——都不會卡在虛假最優裡，而 KKT 條件變得充分，不只是必要。這正是為什麼如此多的應用最佳化——從投資組合理論到支持向量機再到信號恢復——被刻意構造成凸的。當問題非凸時，一切保證都軟化為局部的陳述。