投影：最近的點

影子圖景

讓一束光垂直照向一個向量，看看它的影子落在地板的哪裡。那個影子就是這個向量在地板上的投影。在地板上所有的點之中，影子是離向量末端最近的那個點——投影和「最近點」是同一件事的兩個名字。

拆成「內部」加「垂直誤差」

相對於一個子空間（一條直線、一個平面等等），每個向量都能被唯一地拆成兩塊：住在子空間內部的那一塊——就是投影——加上一塊垂直於子空間、戳出去的剩餘。我們把這塊剩餘叫做誤差或殘差，它的標誌是：它和內部的一切都正交。

v  =  p   +   e
      |       |
  projection  error (perpendicular to the subspace)

p dot e = 0   <-- the two pieces are orthogonal

投影到單一方向

最簡單的情形，是把 v 投影到經過單個向量 a 的那條直線上。公式是：把 a 按比例 (a dot v) / (a dot a) 縮放。分子衡量 v 與 a 有多對齊；分母不過是 a 的長度平方，它抵消掉 a 的大小，使答案只取決於 a 的方向。

1. 把 v = (2,2) 投影到 x 軸方向 a = (1,0) 上。
2. a dot v = 1*2 + 0*2 = 2；a dot a = 1*1 + 0*0 = 1。
3. 投影 p = (2/1)*(1,0) = (2,0)；誤差 e = v - p = (0,2)，它與 a 垂直。

proj_a(v) = ( (a dot v) / (a dot a) ) * a

v=(2,2), a=(1,0):  (2/1)*(1,0) = (2,0)
check: e = v - p = (0,2),  a dot e = 0