内积空间与伴随算子

柯西-施瓦茨不等式

线性代数中使用最频繁的不等式断言:两向量的内积绝不超过它们长度之积:|<u,v>| <= ||u|| ||v||。从几何上看它不过是 |cos(夹角)| <= 1,但它在任何内积空间中都成立——包括没有图像可依的无穷维函数空间。

干净的证明无需坐标。若 v = 0,两边皆为 0。否则令 w = u - (<u,v>/<v,v>) v,即 u 中正交于 v 的部分。展开 0 <= <w,w> 并化简,恰好得到 ||u||^2 ||v||^2 >= |<u,v>|^2。开平方即证毕。诀窍在于减去投影后,剩下的东西自内积非负。

等号成立当且仅当 u 与 v 平行(线性相关)。这正是残差 w 为零——u 完全等于它在过 v 的直线上的投影,毫无剩余。

它的影响极广:它证明三角不等式(从而 ||.|| 确为范数),它支撑抽象空间中角度的定义,在概率论中它化为协方差与标准差之积之间的界。掌握这个证明,十几个其他结论便随之而来。

|<u,v>|^2 <= <u,u> <v,v>, equality iff v = c u for some scalar c

平方形式避开了开方,最易证明;等号恰好刻画了线性相关的向量对。

这个证明实质就是乔装的正交投影:w = u - proj_v(u)。柯西-施瓦茨不等式说的正是:剩下的正交部分长度不能为负。

又称
Cauchy-Bunyakovsky-Schwarz inequalityCBS inequality