内积与正交性
投影(projection)
把一个向量投影到一条直线或一个子空间上,就是取它的影子:想象太阳正当头顶,把向量投落到那条线上。这个影子,就是该子空间中离原向量最近的那个点。
投影把一个向量干净地拆成两块:落在子空间内的部分(影子)和与之垂直的剩余部分(误差或残差)。这两块加回去恰好还原原向量,且彼此正交。
投影到单一方向 u 上时,公式是 proj = ((v . u) / (u . u)) * u。例:把 v=(3,4) 投影到 x 轴 u=(1,0),得到轴内的 (3,0),剩余 (0,4) 竖直向上。
proj of (3,4) onto (1,0) = ((3,4).(1,0) / (1,0).(1,0)) * (1,0) = (3,0)
影子 (3,0) 加上垂直的剩余 (0,4),重新拼回 (3,4)。
剩余部分(误差)总是与子空间正交,这正是影子为何是最近点的原因。
又称
另见