凸函数（convex function）

凸函数就是图像能兜住水的函数——它像碗一样向上弯，中间从不鼓起。其定义图景很简单：在图像上任取两点，作它们之间的直弦；对凸函数，弦总是落在图像之上或与之重合。没有不同时是全局最低点的局部凹陷，也没有可供困住的隐藏山谷。

精确地说，f 是凸的，若对任意两点和任意介于 0 与 1 之间的混合比例 t，有 f(t x + (1-t) y) 小于等于 t f(x) + (1-t) f(y)——加权平均处的函数值绝不超过函数值的加权平均。对光滑多元函数有一个干净的二阶判别：f 凸当且仅当它的黑塞矩阵处处半正定，这正是在每个方向上向上弯的多元表述。严格凸（曲率严格为正）意味着碗有唯一而尖锐的底。

凸性是分隔我们能可靠求解与不能可靠求解的优化问题的分水岭。对凸可行集上的凸目标，每个局部极小自动是全局极小，于是任何下坡的方法——包括梯度下降——都不会卡在虚假最优里，而 KKT 条件变得充分，不只是必要。这正是为什么如此多的应用优化——从投资组合理论到支持向量机再到信号恢复——被刻意构造成凸的。当问题非凸时，一切保证都软化为局部的陈述。