0.6_普通内积

0.6 普通内积

我们约定，把 Fn\mathbf{F}^n 的元素看作列向量[即 Fn−Mn+1(F)\mathbf{F}^n - \mathbf{M}_{n+1}(\mathbf{F}) ]。于是，如果 x∈Cnx \in \mathbb{C}^n ，则 xΓx^{\Gamma} 和 x⋅x^{\cdot} 是行向量。注意，如果 x∈Rnx \in \mathbb{R}^n ，则 x⋆=xΓx^{\star} = x^{\Gamma} 。

0.6.1 定义 纯量 y∗xy^{*}x 是 xx 和 y∈Cny \in \mathbb{C}^{n} 的内积（纯量积），常常把它记作 (x,y)=y∗x(x, y) = y^{*}x 。还可以定义不同于这个内积的各种内积，所以又把这个内积叫做向量空间 Cn\mathbb{C}^{n} 上的普通内积或标准内积。应该指出 (⋅,⋅)(\cdot, \cdot) 对第一个变元是线性的 (⟨αx+βx0,y⟩=α(x1,y)+β(x2,y)(\langle \alpha x + \beta x_{0}, y \rangle = \alpha (x_{1}, y) + \beta (x_{2}, y) 对所有 α,β∈C\alpha, \beta \in \mathbb{C} 和 x1,x2∈Cnx_{1}, x_{2} \in \mathbb{C}^{n} 成立)，而对第二个变元是共轭线性的 (⟨x,αy1+βy2⟩=α(x,y1)+β(x,y2)(\langle x, \alpha y_{1} + \beta y_{2} \rangle = \alpha (x, y_{1}) + \beta (x, y_{2}) 对所有 α,β∈C\alpha, \beta \in \mathbb{C} 和 y1,y2∈Cny_{1}, y_{2} \in \mathbb{C}^{n} 成立）。
0.6.2 正交性 两个向量 x,y∈Cnx, y \in \mathbb{C}^n 称为正交，是指 ⟨y,x⟩=0\langle y, x \rangle = 0 。在二维和三维情形，通常把正交几何解释为垂直。如果向量组 {x1,x2,…,xk}⊂Cn\{x_1, x_2, \dots, x_k\} \subset \mathbb{C}^n 中每两个向量都正交，就称它为正交组。如果一个正交向量组中没有一个是零向量，那么它一定线性无关。
0.6.3 Cauchy-Schwarz 不等式 如果 x∈Cnx \in \mathbb{C}^n ，非负纯量 ⟨x,x⟩1,2\langle x, x \rangle^{1,2} 是 xx 的 Enclid 长度。Enclid 长度为 1 的向量叫做正规化向量（或单位向量）。对于任意一个非零向量 x∈Cnx \in \mathbb{C}^n ， x∉(x,x)′′x \notin (x, x)^{\prime \prime} 是与 xx 同向的正规化向量。基本的 Cauchy-Schwarz 不等式是说，

∣(y,x)∣⩽⟨x,x⟩′′⟨y,y⟩′′\left| (y, x) \right| \leqslant \langle x, x \rangle^ {\prime \prime} \langle y, y \rangle^ {\prime \prime}

对所有 x,y∈Cnx, y \in \mathbb{C}^n 成立；其中等号才成立，当且仅当 xx 和 yy 线性相关，推广正交概念，两个非零向量 x,y∈Cmx, y \in \mathbb{C}^m 之间的夹角可明确地由公式

cos⁡θ=∣⟨y,x⟩∣⟨x,x⟩1/2⟨y,y⟩1.0⩽θ⩽π2\cos \theta = \frac {\left| \langle y , x \rangle \right|}{\langle x , x \rangle^ {1 / 2} \langle y , y \rangle^ {1}}. \quad 0 \leqslant \theta \leqslant \frac {\pi}{2}

来定义.

0.6.4 Gram-Schmidt 标准正交化 一个线性无关向量组（它组成它的张成空间的一个基）可以用同一空间的一个标准正交（两两正交的，各自正规化的）基来代替，直观上看，这可能是合理的。虽然这种替代原则上可以用无穷多种方式来实现，但是，在进行这种替代时，有一种非常简便的、行之有效的算法，称之为 Gram-Schmidt（标准正交化）过程，设 x1,⋯ ,xnx_{1}, \cdots, x_{n} 是一个复向量空间的 nn 个线性无关向量的集合。 {z1,⋯ ,zn}\{z_{1}, \cdots, z_{n}\} 是要确定的正规化向量的正交组。可以依次如下计算 ziz_{i} 。设 y1=x1y_{1} = x_{1} ，并取

z1=−yi(y1⋅yi)1/2,z _ {1} = - \frac {y _ {i}}{(y _ {1} \cdot y _ {i}) ^ {1 / 2}},

使得 z1z_{1} 是正规化的. 设 y2=x2+(x2,z1)z1y_{2} = x_{2} + (x_{2}, z_{1})z_{1} , 使得 y2y_{2} 与 z1z_{1} 正交, 然后取

z2=y2(y2+y2)1−3,z _ {2} = \frac {y _ {2}}{\left(y _ {2} + y _ {2}\right) ^ {1 - 3}},

使得 z2z_{2} 是正规化的且与 z1z_{1} 正交．类似地，将上述过程继续下去．假设 z1,…,zk−1z_{1},\dots ,z_{k - 1} 已被

确定，设

yk=xk−⟨xk,zk−1⟩zk−1−(xk,zk−2)zk−2−⋯−(xk,z1)z1,y _ {k} = x _ {k} - \left\langle x _ {k}, z _ {k - 1} \right\rangle z _ {k - 1} - \left(x _ {k}, z _ {k - 2}\right) z _ {k - 2} - \dots - \left(x _ {k}, z _ {1}\right) z _ {1},

使得 yky_{k} 与 z1,…,zk−1z_{1},\dots ,z_{k - 1} 正交．然后正规化 yky_{k} 便得到

zk=yi⟨yk,yk⟩′2.z _ {k} = \frac {y _ {i}}{\langle y _ {k} , y _ {k} \rangle^ {\prime 2}}.

继续做下去，直到得到所要求的标准正交向量 z1,…,znz_{1},\dots ,z_{n} ，注意，利用上述方法，一个无限的标准正交组能够由无限维向量空间中的一个无限可数线性无关组得到.

在Gram-Schmidt过程的每一步中，标准正交向量 z1,…,zkz_{1},\dots ,z_{k} 仅仅是原无关向量 x1,…,x_{1},\dots , xkx_{k} 的线性组合(反之亦然).如果记 Z=⌊z1z2…zn⋅‾Z = \lfloor z_1z_2\dots z_n\overline{\cdot} 和 X=[x1x2…xn]X = [x_{1}x_{2}\dots x_{n}] 分别为以向量 ziz_{i} 和 xix_{i} 为列的矩阵，那么 Z=XRZ = XR ，其中，矩阵 R=[ry]R = [r_y] 是非奇异上三角矩阵；即，当 i>ji > j 时， rj=0r_j = 0

最后，我们指出，Gram-Schmidt 过程可以应用于任一有限的或可数的向量序列（不一定是线性无关的）。如果该集合不线性无关，那么，对于使 {x1,⋯ ,xk}\{x_{1}, \cdots, x_{k}\} 为线性相关组的最小 kk 值，将得到向量 yk=0y_{k} = 0 。这时， xkx_{k} 是 x1,⋯ ,xk−1x_{1}, \cdots, x_{k-1} 的线性组合。用 xk+1x_{k+1} 代替 xkx_{k} ，并继续 Gram-Schmidt 过程便可回答这样一个问题：什么是 {x1,⋯ ,xn}\{x_{1}, \cdots, x_{n}\} 的张成空间的基或维数？

0.6.5 标准正交基 一个标准正交向量组就是这样的正交向量组，它的第一个向量都是正规化的。这个向量组不可能包含向量 0，并且一定线性无关。一个标准正交基是由标准正交向量组成的基。因为任一个基可（经 Gram-Schmidt）化成标准正交基，所以，任一有限维复向量空间有一个标准正交基。因为在计算内积时，交叉项都变为零，所以与这样的基打交道是很合意的。

0.6.6 正交补 给定任意子集 S⊂CnS \subset \mathbf{C}^{n} , SS 的正交补是集合

S1≡{x∈Cn;x⋅y=0,对 所 有y∈S}.S ^ {1} \equiv \{x \in \mathbf {C} ^ {n}; x ^ {\cdot} y = 0, \text {对 所 有} y \in S \}.

即使 SS 不是子空间， S′S^{\prime} 也总是子空间。我们有 (S⊥)⊥=Span⁡S(S^{\perp})^{\perp} = \operatorname{Span} S ，并且，当 SS 是子空间时， (S−)⊥=S(S-)^{\perp} = S 。这时， dim⁡S−dim⁡(S−)⊥=n\dim S - \dim(S-)^{\perp} = n 。在关于线性方程组 Ax=bAx = b 的叙述中（其中 A∈Mm,nA \in M_{m,n} ），应注意的是， AA 的值域正好是 A∗A^{*} 的零空间的正交补，即 Ax=bAx = b 有解（不必唯一），当且仅当 b∗z=0b^{*}z = 0 对所有使 A∗z=0A^{*}z = 0 的 z∈Cmz \in \mathbf{C}^{m} 成立。

Previous0.5_非奇异性
Next0.7_分块矩阵