线性代数复习(十):内积、正交性、投影定理 inner product, orthogonality and projection theorem

两个向量的内积(inner product),定义为
\[\vec{x}\cdot\vec{y}=x_1y_1+x_2y_2+\cdots +x_ny_n\]
其中 \(\vec{x}=(x_1,x_2,\cdots, x_n)^T, \vec{y}=(y_1,y_2,\cdots, y_n)^T\)。 利用矩阵的乘法定义,我们可以把内积写成
\[\vec{x}\cdot\vec{y}=\vec{x}^T\vec{y}\]
我们说两个向量是正交的(orthogonal),是指两个向量的内积为 \(0\),也就是说,当 \(\vec{x}\cdot\vec{y}=0\) 时,我们说 \(\vec{x}\) 和 \(\vec{y}\) 是正交的。

投影定理:如果 \(\mathcal{W}\) 是 \(\mathbb{R}^n\) 的子空间,它的一个正交基 (orthogonal basis) 是 \(\vec{u}_1,\vec{u}_2,\cdots, \vec{u}_p\),那么对于任意的 \(\vec{y}\in \mathbb{R}^n\),
\[\vec{y}=\hat{\vec y}+z\]
其中 \(\hat{\vec y}\in \mathcal{W}, z\in\mathcal{W}^{\bot}\)。并且
\[\hat{\vec y}=\frac{\vec{y}\cdot\vec{u}_1}{||\vec{u}_1||^2}\vec{u}_1+\frac{\vec{y}\cdot\vec{u}_2}{||\vec{u}_2||^2}\vec{u}_2+\cdots +\frac{\vec{y}\cdot\vec{u}_p}{||\vec{u}_p||^2}\vec{u}_p.\]

我们这里给出了求投影的例子。

Posted in 复习与总结, 线性代数复习.