隨機變數的柯西-施瓦茲不等式（Cauchy-Schwarz inequality）
/ KOH-shee SHVARTS /
關於普通向量有一條經典事實：兩個向量的內積，大小上絕不會超過它們長度的乘積，|u . v| <= |u| |v|。它表達了兩支箭頭頂多只能對齊到某個程度。隨機變數的行為也像向量——你可以把它們「相加」、「縮放」，並定義一種長度與夾角——所以同樣的不等式成立，而它是整個機率論中最常用的估計之一。
敘述如下：對隨機變數 X 與 Y，(E[XY])^2 <= E[X^2] E[Y^2]。把 E[XY] 想成內積，把 E[X^2] 想成 X 的長度平方。這個不等式說相關不可能超過大小的乘積。一個乾淨的看法：對每個實數 t，E[(X - tY)^2] >= 0，因為平方絕不為負。展開得 E[X^2] - 2t E[XY] + t^2 E[Y^2] >= 0，這是一個對 t 的二次式且保持非負，所以它的判別式不能為正：(2 E[XY])^2 - 4 E[Y^2] E[X^2] <= 0，整理後恰好就是所要證的式子。
兩個收穫立刻浮現。第一，套用到去中心化的變數上，它證明了相關係數永遠落在 -1 與 1 之間，因為 |Cov(X,Y)| <= sigma_X sigma_Y。第二，只要 X 與 Y 各自的二階動差有限，它就保證 E[XY] 有限——在處理共變異數與內積時是一個主力事實。等號只在其中一個變數是另一個的常數倍時成立（完全對齊），正是相關係數為 +1 或 -1 的情形。
設 X 滿足 E[X^2] = 4，Y 滿足 E[Y^2] = 9。則無論 X 與 Y 如何相依，|E[XY]| <= sqrt(4 . 9) = 6。它們乘積的平均被釘在 [-6, 6] 之內；唯有當 Y 恰與 X 成比例時才能觸及端點。
把隨機變數當成向量：它們的「內積」E[XY] 被它們「長度」的乘積所限制。
柯西-施瓦茲限制的是線性對齊 E[XY]；達到此界意味著恰成比例。它對一般相依性毫無置喙——不相關的變數仍可能有強烈的非線性關係。