想象一个开阔的广场，广场平面就是数学家口中的“子空间”。广场中央立着一根笔直的旗杆，旗杆所指的方向被称为“与广场垂直的方向”。正午阳光直射，旗杆的影子缩成一个点；黄昏斜射，影子被拉得很长。但无论影子怎么变，它与旗杆自身永远保持 90° 夹角——这就是“正交”二字的直觉底色。 正交补空间理论研究的，正是这种“垂直搭档”关系的完整版本：任何一个由向量组成的子空间，都可以找到一批与它“无死角垂直”的向量，这些向量聚在一起构成一个新的空间。把空中斜着飞过的一只鸟放进这个框架，它的位置总能唯一地拆成“落在地面上的影子分量”和“指向天空的垂直分量”两部分。这个看似简单的拆解，却是整个线性代数大厦的承重墙：最小二乘回归、信号去噪、机器学习中的投影算法，背后都在用它。

岗位关联

掌握正交补空间理论，能让你真正“看见”线性回归、数据降维、信号去噪等 AI 基础算法背后的几何意义，从机械套公式升级为理解模型为什么这样做。

目录
  1. 可视化演示
  2. 正交补定义理解
  3. 正交分解定理
  4. 维数互余关系
  5. 四大子空间互补
  6. 最小二乘应用
  7. 信号分解去噪
  8. 工程实践要点
  9. AI 应用场景
  10. Python 演示
  11. 常见误区
  12. 面试题

可视化演示

展示向量在子空间与正交补空间的分解、正交投影计算及四大基本子空间之间的正交关系。

本节配有交互动效（进入视口后自动加载，约 3KB）。

正交补定义理解

施工队要在广场立广告牌，队长立下规矩：支柱必须与广场上的每一条可能的直线都成 90° 夹角。只跟某一条直线垂直不算数，万一风向一转广告牌就歪了。也就是说，一根柱子要真正合格，必须与广场“无死角垂直”——这正是正交补空间的入场券。

在数学里，“广场”对应一个内积空间 V（比如三维空间 R³），广场上的某个平面或直线就是子空间 W。我们把“与 W 中每一个向量都正交的全体向量”收集起来，称为 W 的正交补，记为 W⊥。这个集合的严格定义是：

为什么说 W⊥ 是一个“空间”而不是一堆散点？因为任意两个满足条件的向量相加后仍满足条件，任意向量数乘后也仍满足条件，零向量天然包含在内。加法封闭、数乘封闭、含零向量，三条一验，W⊥ 确实构成子空间。比如在 R³ 中取 W 为 xOy 平面，那么 W⊥ 就是过原点沿 z 轴方向的直线；z 轴上的向量与平面上任意方向都垂直，恰好对应施工队那根“全方位合格”的柱子。

W⊥={v∈V∣⟨v,w⟩=0, ∀w∈W}\displaystyle W^{\perp} = \{ \mathbf{v} \in V \mid \langle \mathbf{v},\mathbf{w}\rangle = 0,\ \forall \mathbf{w}\in W \}
这个式子用一句话说就是：W⊥ 是 V 中与 W 所有向量都垂直的向量组成的集合。
  1. 记号 W⊥$W^{\perp}$ 读作“W 的正交补”，它表示我们要找的那批“与 W 无死角垂直”的向量集合。
    W⊥W^{\perp}
  2. 成员范围$\mathbf{v} \in V$ 说明候选向量来自全空间 V，所有向量都要参加“垂直体检”。
    v∈V\mathbf{v} \in V
  3. 垂直条件$\langle \mathbf{v},\mathbf{w}\rangle = 0$ 表示两个向量的内积为零，几何上就是夹角为 90°。
    ⟨v,w⟩=0\langle \mathbf{v},\mathbf{w}\rangle = 0
  4. 没有例外$\forall \mathbf{w}\in W$ 强调必须对 W 中的每一个向量都满足垂直条件，缺一不可。
    ∀w∈W\forall \mathbf{w}\in W

正交分解定理

把一根树枝随手抛向空中，它在广场地面上的影子只有一个，枝条尖端离地的高度也只有一个。空中任何一个位置，都能被无歧义地写成“地面坐标 + 离地高度”——不多不少，各就各位。把这个直觉搬进向量空间，就是正交分解定理。

正交分解定理：设 W 是内积空间 V 的子空间，则任意向量 v∈V 都可以唯一地分解为 v = w + w⊥，其中 w∈W，w⊥∈W⊥。唯一性的证明很直观：若存在两种分解 v = w₁+u₁ = w₂+u₂，则 w₁-w₂ = u₂-u₁ 这个向量同时属于 W 和 W⊥，唯一可能是它等于零向量，所以 w₁=w₂、u₁=u₂。

这个定理还把“求影子”变成了一个线性算子：定义 P_W(v) = w，称为投影算子。P_W 是线性映射，且满足 P_W²=P_W——影子已经在地面上了，再投影一次还是那个影子。在几何上，w 也是 W 中距离 v 最近的向量，即 $\|v - w\| = \min_{u\in W} \|v - u\|$。

有了正交分解，我们就可以把任意一个复杂的向量“投影 + 取高”拆成两个独立的部分。就像研究飞鸟时可以先看它在广场上的轨迹（子空间内部），再看它的飞行高度（补空间分量），两个信息互不干扰，合起来才完整描述鸟的位置。

v=PW(v)+PW⊥(v)\displaystyle \mathbf{v} = P_W(\mathbf{v}) + P_{W^{\perp}}(\mathbf{v})
它的含义是：向量 v 恰好等于它在地面子空间上的投影加上它在垂直补空间上的投影，这两部分正交且唯一。
  1. 原向量拆分把 v 写成两项之和，这两项分属 W 和 W⊥，即“地面影子加天空高度”。
    v=w+w⊥\mathbf{v} = w + w^{\perp}
  2. 投影项$w = P_W(\mathbf{v})$ 位于 W 中，正如影子落在广场地面上，完全由 v 和 W 确定。
    w=PW(v)w = P_W(\mathbf{v})
  3. 正交项$w^{\perp} = P_{W^{\perp}}(\mathbf{v})$ 位于 W⊥ 中，正如旗杆的竖直高度部分，它能“摆脱”地面方向。
    w⊥=PW⊥(v)w^{\perp} = P_{W^{\perp}}(\mathbf{v})
  4. 正交约束两个分量互相垂直，且它们相加恰好还原为 v，因此这种拆分是唯一的。
    w⊥w⊥,v=w+w⊥w \perp w^{\perp}, \quad v = w + w^{\perp}

维数互余关系

想象你在设计一栋三维空间的建筑：如果地面能沿两个独立方向伸展，剩余的空间就只剩一个独立的竖直方向；你不可能在二维地面上同时塞下两个互相独立、又同时垂直于地面的方向。这个“此消彼长”的直觉，由维数公式精确刻画——它告诉我们：一个子空间的维数与其正交补空间的维数之和，恰好等于全空间的维数。

这个公式还有一个漂亮的推论：双重补空间会还原原空间，$(W^{\perp})^{\perp} = W$。就像把“所有与天空垂直的方向”收集起来，得到的恰好就是地面本身。维数公式保证了“地面和天空”各自独立、互不重叠，任何向量都能被唯一地分配到这同一个直和结构中。

dim⁡W+dim⁡W⊥=dim⁡V\displaystyle \dim W + \dim W^{\perp} = \dim V
通俗理解：全空间的自由度完全分配给 W 和 W⊥ 两方，一方多占一个独立方向，另一方就少一个独立方向。
  1. 子空间的维数$\dim W$ 表示 W 中一组基所含向量的个数，可以理解为“地面上的独立方向数”。
    dim⁡W\dim W
  2. 补空间的维数$\dim W^{\perp}$ 表示与 W 垂直的独立方向数，即“天空方向的自由度”。
    dim⁡W⊥\dim W^{\perp}
  3. 相加等于全维$\dim V$ 表示整个空间 V 的自由度总数，两者相加不多不少正好等于它。
    dim⁡W+dim⁡W⊥=dim⁡V\dim W + \dim W^{\perp} = \dim V
  4. 直和结构$V = W \oplus W^{\perp}$ 表示全空间可拆成两个正交子空间的直和，每个 v 唯一对应一对(w, w⊥)。
    V=W⊕W⊥V = W \oplus W^{\perp}

四大子空间互补

把矩阵 A 想象成一台广播设备：输入信号 x 经过 A 后变成输出 Ax。有些输入会在输出端彻底“静音”，也就是满足 Ax=0。这些被静音的输入方向坐落在哪里？答案恰好在 A 的行空间的正交补里——凡是与所有传播方向（行向量）都垂直的输入，都会在输出端消失，这就是零空间的几何含义。

在 $m\times n$ 矩阵 A 中，行空间 Row(A) 是 A 的各行向量张成的子空间，零空间 Null(A) 是齐次方程 Ax=0 的解集。由于 Ax=0 等价于 x 与 A 的每一行都正交，所以零空间恰好是行空间的正交补。类似地，考察列空间 Col(A) 与左零空间 Null(Aᵀ)，可以得到 Col(A) 的正交补是左零空间。这就是线性代数中著名的“四大子空间”关系：

这四大子空间看似绕口，但用“广播设备”来记就顺了：行方向决定信号如何从输入端发出；零空间是发不出去的那些“死方向”。两者相加，维度正好等于输入空间总维数，这就是秩-零化度定理（dim Null(A) + rank(A) = n）的内核——它只是维数公式在矩阵世界里的一个特写镜头。

Null(A)=(Row(A))⊥,Null(A⊤)=(Col(A))⊥\displaystyle \mathrm{Null}(A) = (\mathrm{Row}(A))^{\perp}, \qquad \mathrm{Null}(A^{\top}) = (\mathrm{Col}(A))^{\perp}
这两条等式揭示了矩阵的“输入空间”与“输出空间”之间的镜像关系：行方向被消掉的部分就是零空间，列方向被消掉的部分就是左零空间。
  1. 零空间$\mathrm{Null}(A)$ 表示所有满足 Ax=0 的向量，它们是广播线路中“完全静音”的输入方向。
    Null(A)\mathrm{Null}(A)
  2. 行空间的正交补$(\mathrm{Row}(A))^{\perp}$ 表示与 A 所有行都垂直的向量集合，它刻画了输入中无法被“传播”出去的方向。
    (Row(A))⊥(\mathrm{Row}(A))^{\perp}
  3. 两者相等Ax=0 逐行展开时，每一行与 x 的内积都为零，这正好符合正交补的定义，因此两个集合是同一个集合。
    Null(A)=(Row(A))⊥\mathrm{Null}(A) = (\mathrm{Row}(A))^{\perp}
  4. 左零空间$\mathrm{Null}(A^{\top})$ 在输出那一侧扮演同样的角色，它是列空间 Col(A) 的正交补。
    Null(A⊤)=(Col(A))⊥\mathrm{Null}(A^{\top}) = (\mathrm{Col}(A))^{\perp}

最小二乘应用

如果观测点不在地面上，但我们必须在地面上给出一个最佳答复，最近的那个点一定是过观测点作地面的垂线所得到的垂足，偏差连成的线段垂直地面。这个“垂足 + 垂直偏差”的画面，正是最小二乘的几何灵魂：当方程组 Ax=b 无解时，我们不再强求等式成立，而是寻找一个 x，使得 Ax 是 b 在列空间 Col(A) 上的投影，残差 r = b-Ax 则恰好落在列空间的正交补里。

残差与列空间正交的代数写法是 Aᵀr=0，即 Aᵀ(b-Ax)=0。把括号展开，就得到著名的正规方程：

在“旗杆影子”的框架下再看一遍：把 b 看作空中一只鸟的位置，列空间 Col(A) 看作地面，最小二乘解就是让地面上的投影点离鸟的“落点”尽可能近，而那条垂直飞离地面的残差线段，恰恰属于正交补空间。这也解释了为什么线性回归里我们总说“预测值解释了部分数据，剩下的残差部分是特征解释不了的信息”。

A⊤Ax=A⊤b\displaystyle A^{\top} A \mathbf{x} = A^{\top} \mathbf{b}
最小二乘解的来源不是“硬凑”方程，而是让误差向量垂直于列空间，把误差彻底归入正交补维度。
  1. 目标选择 x 使误差平方和 $(\|Ax-b\|^2)$ 最小，等价于让 Ax 成为 b 在列空间上的投影。
    min⁡x∥Ax−b∥2\min_{x} \|Ax-b\|^2
  2. 正交性条件最优解要求残差 $r = b-Ax$ 与列空间 Col(A) 中的每个向量垂直。
    A⊤(b−Ax)=0A^{\top}(b-Ax)=0
  3. 展开把 Aᵀ 分配到括号内，得到 AᵀAx - Aᵀb = 0。
    A⊤Ax=A⊤bA^{\top}Ax = A^{\top}b
  4. 解的形式当 A 的列线性无关时 $A^{\top}A$ 可逆，解为 $x = (A^{\top}A)^{-1}A^{\top}b$。
    x=(A⊤A)−1A⊤bx = (A^{\top}A)^{-1}A^{\top}b

信号分解去噪

你录制一段语音，得到的波形既包含干净人声，也混入背景噪声。如果能用某种方式把带噪信号 v 拆成“干净信号 s + 噪声 n”，而且这两个分量彼此垂直，那问题就清爽了：把垂直的噪声分量丢掉，剩下的就是净化信号。这正是正交分解在信号处理中的标准剧本——先把信号投影到干净的信号子空间 S 上，再把落在 S⊥ 里的残余扔掉。

假设干净信号全部位于某个信号子空间 S 内，带噪信号可写为 v = s + n，其中 s∈S，n∈S⊥。则 P_S(v) 就是去噪后的信号。为什么可以这样操作？因为总能量在正交分解下严格守恒，这就是下面这个勾股恒等式：

在实际工程中，这个原理有大量变体：PCA 主成分分析把方差最大的方向定为信号子空间，舍弃低方差方向作为噪声；SVD 降秩去噪则把矩阵近似为低秩信号矩阵，残余矩阵被视为补空间噪声。剥掉那些“垂直的毛刺”，模型看到的数据会更干净、更聚焦于主要结构。

∥v∥2=∥PSv∥2+∥PS⊥v∥2\displaystyle \|\mathbf{v}\|^2 = \|P_S\mathbf{v}\|^2 + \|P_{S^{\perp}}\mathbf{v}\|^2
它说明信号总能量恰好等于“保留的信号能量”与“剔除的噪声能量”之和，一增一减，从不变多或变少。
  1. 总能量$\|\mathbf{v}\|^2$ 表示带噪信号的总能量，是所有采样点幅度的平方和。
    ∥v∥2\|\mathbf{v}\|^2
  2. 信号能量$\|P_S\mathbf{v}\|^2$ 是投影到信号子空间 S 后的能量，对应我们想要保留的纯净部分。
    ∥PSv∥2\|P_S\mathbf{v}\|^2
  3. 噪声能量$\|P_{S^{\perp}}\mathbf{v}\|^2$ 是留在正交补空间里的能量，对应被弃掉的噪声偏向。
    ∥PS⊥v∥2\|P_{S^{\perp}}\mathbf{v}\|^2
  4. 勾股关系两个分量互相垂直，因此能量相加等于总能量，这正是一般化的勾股定理。
    ∥v∥2=∥PSv∥2+∥PS⊥v∥2\|\mathbf{v}\|^2 = \|P_S\mathbf{v}\|^2 + \|P_{S^{\perp}}\mathbf{v}\|^2

工程实践要点

纸面上的投影矩阵优雅漂亮，但直接照搬到数值计算里可能翻车。假设 W 由矩阵 A 的列张成，投影算子的显式形式是：

为什么说 AᵀA 的算法不是首选？因为对病态矩阵求逆会把条件数平方级放大，微小误差被急剧放大，解变得不可靠。工程实践中更推荐用 QR 分解或 SVD 来计算投影与最小二乘解。在 Python 生态里，np.linalg.lstsq 底层就是基于这些稳定算法实现的，scipy.linalg.null_space 则直接帮你算零空间的基。好的测量员不会只拿软尺量影子，而会用激光测距仪和水平仪；工程上选择稳定算法，就是在用更可靠的仪器保证影子与高度的精确分离。

PW=A(A⊤A)−1A⊤\displaystyle P_W = A(A^{\top}A)^{-1}A^{\top}
这个矩阵把一个向量 v 映射到它在 W 上的投影 w；但工程上直接计算 AᵀA 的逆往往不是最稳妥的选择。
  1. 基矩阵 AA 的列向量是子空间 W 的一组基，相当于地面上的“坐标刻度”。
    A=[a1,…,ak]A = [\mathbf{a}_1, \ldots, \mathbf{a}_k]
  2. 内积矩阵$A^{\top}A$ 是列向量两两内积组成的对称矩阵，它的可逆性等同于 A 的各列线性无关。
    A⊤AA^{\top}A
  3. 投影矩阵$P_W = A(A^{\top}A)^{-1}A^{\top}$ 表示把向量先转入“地面坐标系”进行处理，再映射回原空间。
    A(A⊤A)−1A⊤A(A^{\top}A)^{-1}A^{\top}
  4. 幂等性$P_W^2 = P_W$ 说明投影两次与投影一次效果相同，影子不会被投影两次后改变位置。
    PW2=PWP_W^2 = P_W

AI 应用场景

线性回归与机器学习建模

阶段：有监督学习 / 模型训练

解决的问题：传统线性回归把特征数据直接代入公式求解，但真实数据往往噪声大、样本多，方程个数远多于未知量个数，方程组超定且无精确解。借助正交补思想，模型要找的权重 x 是让残差 b-Ax 垂直于特征列空间的向量，这样拟合结果才是几何上“误差最小”的投影。

具体案例：房价预测中，面积、卧室数、房龄等特征构成矩阵 A，房价构成标签向量 b。工程师用最小二乘解出权重，同时检查残差与特征列空间的内积是否接近零——这正是验证模型是否“把该解释的结构都解释完了”。

语音与图像信号去噪

阶段：数据预处理 / 特征提取

解决的问题：原始信号被环境噪声污染，直接输入模型会影响识别准确率。传统滤波器依赖人工调参，而正交分解可以从几何上把带噪信号拆成“干净信号 + 垂直噪声”，把噪声分量丢弃。

具体案例：语音识别前对音频帧做 PCA 或子空间投影，将带噪帧 v 投影到语音主成分子空间 S 上。投影后保留大部分语音能量，丢弃的能量属于 S⊥，相当于“把垂直方向的毛刺剪掉”，信噪比显著提升。

推荐系统中的矩阵分解

阶段：表征学习 / 模型训练

解决的问题：用户对物品的评分矩阵往往稀疏且含噪声，直接填充缺乏依据。把评分矩阵近似为低秩矩阵，本质上是保留“用户-物品交互子空间”中的真实信号，把补空间里不可解释的偏差当作噪声滤除。

具体案例：协同过滤中，评分矩阵 R≈UVᵀ。U、V 定义了一个低秩子空间，残差 R-UVᵀ 对应补空间分量。对奇异值做阈值截断，等价于将评分向量投影到主信号子空间，从而忽略补空间中的微小扰动。

Python 演示

python50 行
import numpy as np  def null_space_basis(A, tol=1e-8):    """计算矩阵 A 的零空间(行空间的正交补)的一组正交基"""    u, s, vh = np.linalg.svd(A)    rank = np.sum(s > tol)    return vh[rank:].T  def decompose_by_projection(A, v):    """将 v 分解为它在 Col(A) 上的投影与正交补分量"""    x, _, _, _ = np.linalg.lstsq(A, v, rcond=None)    proj = A @ x    orth = v - proj    return proj, orth  def solve_least_squares(A, b):    """求解最小二乘问题 min ||Ax - b||"""    return np.linalg.lstsq(A, b, rcond=None)[0]  def main():    # 3x3 矩阵, 第二行是第一行的两倍, 因此秩为 2    A = np.array([[1.0, 2.0, 0.0],                  [2.0, 4.0, 0.0],                  [0.0, 0.0, 1.0]])     nb = null_space_basis(A)    print("零空间(行空间的正交补)的一组基:")    print(nb)     v = np.array([2.0, 1.0, 4.0])    proj, orth = decompose_by_projection(A, v)    print("\n向量 v       :", v)    print("投影到列空间 :", proj)    print("正交补分量   :", orth)    print("点积 |proj·orth| =", round(abs(np.dot(proj, orth)), 12))     b = np.array([1.0, 1.0, 3.0])    x = solve_least_squares(A, b)    r = b - A @ x    print("\n最小二乘解 x :", x)    print("残差 r       :", r)    print("A^T r 是否为零 :", np.allclose(A.T @ r, 0))  if __name__ == "__main__":    main()
目的：用 NumPy 演示如何从矩阵获得零空间基、把向量正交分解成投影与补分量，以及验证最小二乘残差与列空间正交。
  1. rank = np.sum(s > tol)通过 SVD 中大于阈值的奇异值数量判断矩阵的真实秩，秩决定了零空间的维数。
  2. return vh[rank:].TVh 中从第 rank 行起对应的行向量张成了零空间，转置后作为正交基返回。
  3. orth = v - proj用“向量减去投影”得到垂直分量，这一步是正交分解的核心几何操作。
  4. r = b - A @ x残差是观测值与拟合值的差，在本例中它应该落在列空间的正交补里。
  5. np.allclose(A.T @ r, 0)验证残差与列空间正交，即 A^T(Ax-b)=0，这是最小二乘解的必要条件。

常见误区

误区我认为 W⊥ 就是所有与 W 中某一个向量垂直的向量。比如 W 是 xOy 平面，(1,0,1) 与 (1,0,0) 点积为零，所以它应该在 W⊥ 里。

正解正交补要求与 W 中所有向量都垂直，而不是只与其中某个向量垂直。要学会用“基”来检验：只需检查候选向量与 W 的一组基中的每个向量内积是否都为零。在 xOy 平面的例子中，(1,0,1) 与 y 轴单位向量 (0,1,0) 的内积为 0，但它与 (1,0,0) 的内积是 1，因此它不属于 W⊥。真正属于 W⊥ 的是 z 轴方向上的向量。

为何常见：日常语言中“垂直”总是描述两个物体之间的关系，初学者很容易把“与部分向量垂直”误当成“与整个子空间垂直”。

误区既然 W 和 W⊥ 相互独立，它们应该“平分秋色”，我总觉得 W⊥ 的维度大约就是 W 维度的一半。

正解正确的法则是维数相加等于全空间维数：dimW + dimW⊥ = dimV。维度可以相差悬殊。比如 R³ 中一条直线（1 维）的正交补是一个平面（2 维），而一个平面（2 维）的正交补是一条直线（1 维）。这取决于 W 的大小，而不是一个固定比例。

为何常见：大家习惯把“正交互补”想象成对称的阴阳关系，又经常在二维平面里看到两条垂直直线各占一半，就把这种特殊情形当成了普遍规律。

误区解最小二乘就是两边乘 Aᵀ，我不太理解为什么非要乘这个矩阵，反正题目都这么做。

正解乘 Aᵀ 的本质是应用正交补条件：残差 r=b-Ax 必须与列空间 Col(A) 垂直，即 Aᵀr=0。把条件写成 Aᵀ(b-Ax)=0，展开才得到正规方程。几何上，Aᵀ 扮演的是“把残差投影到行空间再令其归零”的桥梁。理解这一点后，你会明白最小二乘不是机械操作，而是在找列空间里的最佳投影点。

为何常见：许多教材从求导出发推导正规方程，过程虽快，却跳过了最关键的几何解释，学生只记住了计算步骤而忘了它的含义。

误区Ax=0 的解集是“输入”端的零空间，A 的行空间是“输出”端的行方向，它们看起来一个在输入维度、一个在输出维度，应该没什么关系。

正解零空间和行空间其实都在 R^n（输入空间）内部，而且零空间恰好是行空间的正交补。行空间里的向量是 A 能“感知”到的方向，零空间中的向量则被 A 完全忽略；两者正交且维度互补。理解这一点就能一眼看出方程 Ax=b 有解时自由变量的个数为什么是 n-rank(A)。

为何常见：初学者习惯按“输入/输出”把空间切到不同世界里，没有意识到 Ax=0 的解向量与 A 的行向量生活在同一个输入空间中。

误区Null(A) 和 Null(Aᵀ) 长得太像了，我总觉得它们都是“代入矩阵后得到零的那些向量”，用的时候经常搞混。

正解两个空间生活在不同的世界里：Null(A) 是行空间 Row(A) 的正交补，位于 R^n（输入侧）；Null(Aᵀ) 是列空间 Col(A) 的正交补，位于 R^m（输出侧）。它们来自不同的空间，维度也可能完全不同。判断时先问一句“这个向量要被哪个矩阵乘成零”，就不容易混淆了。

为何常见：符号上只差一个转置，语义上却横跨两个空间，加上“零空间”这个名称本身很有误导性，让人以为它们指向同一个研究对象。

面试题

Q1. 设 W 是 R³ 中的 xOy 平面，则 W 的正交补 W⊥ 是哪个集合？

单选题 · easy

  • A.平行于 xOy 的平面方向
  • B.垂直于 xOy 的 z 轴直线← 正确答案
  • C.沿 x 轴方向的一维直线
  • D.沿 y 轴方向的一维直线

答案：B。正交补要求与子空间 W 中所有向量都垂直。xOy 平面由 x 轴与 y 轴张成，与两个方向都垂直的只有 z 轴方向，因此 W⊥ 是过原点沿 z 轴的直线。A 选项的平面至少包含一个与 z 轴不垂直的方向，故不符合“与 W 中所有向量垂直”的定义。

Q2. 设 W 是有限维内积空间 V 的子空间，dimW + dimW⊥ 等于多少？

单选题 · easy

  • A.全空间的维数 dim(V)← 正确答案
  • B.子空间的两倍 2dim(W)
  • C.全空间减去子空间的维数
  • D.子空间与补空间维数的最小值

答案：A。正交分解定理告诉我们每个向量都能唯一拆成 W 中的分量与 W⊥ 中的分量，因此 V 是 W 与 W⊥ 的直和，维度自然是两者相加。这就像“三维空间 = 二维地面 + 一维天空”，地面的独立方向数和垂直方向的独立方向数合起来正好等于全空间的自由度。

Q3. 若子空间 W 等于整个空间 V，则 W⊥ 是哪个集合？

单选题 · easy

  • A.只含零向量的集合 {0}← 正确答案
  • B.与 V 自身相等的集合
  • C.全部非零垂直向量的集合
  • D.所有单位向量的集合

答案：A。如果地面就是整个世界，那么“与地面所有方向垂直”的方向只能是零向量。因为非零向量若要垂直 V 中所有向量，至少要垂直包含它自己在内的一组基，内积不可能为零。所以 W⊥={0}，这也是维数公式 dimW + dimW⊥ = dimV 的自然推论。

Q4. 设 A 是 m×n 矩阵，行空间 Row(A) 的正交补是哪个空间？

单选题 · mid

  • A.列空间 Col(A)
  • B.左零空间 Null(Aᵀ)
  • C.零空间 Null(A)← 正确答案
  • D.行空间 Row(A)

答案：C。Ax=0 等价于 x 与 A 的每一行都正交，所以零空间正是行空间的正交补。列空间的正交补才是左零空间；A 选项和 D 选项与正交关系无关，B 选项属于输出侧的补空间，注意不要张冠李戴。

Q5. 若向量 x 满足 Ax=0，那么 x 一定属于哪个空间？

单选题 · mid

  • A.列空间 Col(A)
  • B.行空间 Row(A)
  • C.左零空间 Null(Aᵀ)
  • D.零空间 Null(A)← 正确答案

答案：D。Ax=0 的解集按定义就是零空间 Null(A)，它同时也是行空间的正交补。列空间和行空间由矩阵的列、行分别张成，一般与 Ax=0 的解集没有包含关系；左零空间则是与列空间正交的那批向量，别被名字迷惑。

Q6. 在最小二乘问题中，残差 r=b-Ax̂ 的关键性质是什么？

单选题 · mid

  • A.r 属于列空间 Col(A)
  • B.r 与列空间 Col(A) 垂直← 正确答案
  • C.r 属于行空间 Row(A)
  • D.r 一定为零向量

答案：B。要使 Ax 尽可能接近 b，必须让 Ax̂ 成为 b 在列空间上的投影，于是残差 b-Ax̂ 垂直于列空间，即 r∈Col(A)⊥=Null(Aᵀ)。A 选项说反了；C 选项混淆了输入输出两侧的子空间；D 选项只在 b 恰好落在列空间时成立。

Q7. 当矩阵 A 的列线性相关但 b 不在 Col(A) 中时，最小二乘解的情况是？

单选题 · hard

  • A.原方程无解且最小二乘也无解
  • B.最小二乘解一定存在且唯一
  • C.解有无穷多个但 Ax̂ 唯一← 正确答案
  • D.最小二乘解一定是零向量

答案：C。最小二乘永远有解，因为任何 b 都有唯一的最佳投影 Ax̂ 落在 Col(A) 上。但 A 列线性相关意味着正规方程的系数矩阵 AᵀA 不可逆，所以 x̂ 不唯一，会有无穷多个 x 给出同一个投影值。A、B 都错在唯一性；D 把特殊情况当成了普遍结论。

Q8. 关于正交分解 v = w + w⊥，以下说法正确的有哪些？

多选题 · mid

  • A.w 是 v 在 W 上的唯一投影← 正确答案
  • B.w⊥ 属于正交补空间 W⊥← 正确答案
  • C.w 与 w⊥ 不一定彼此正交
  • D.这种分解方式可能不唯一

答案：AB。正交分解定理保证分解唯一，且 w 正是 v 在 W 上的投影（A 正确），w⊥ 位于 W⊥ 中（B 正确）。C 错误，因为 w 与 w⊥ 按定义互相垂直；D 错误，因为分解唯一性已经由定理证明，任何两种分解的差值必须同时属于 W 和 W⊥，只能是零向量。

Q9. 设 A 是 m×n 矩阵，以下说法正确的有哪些？

多选题 · hard

  • A.零空间 Null(A) 是行空间 Row(A) 的正交补← 正确答案
  • B.列空间 Col(A) 的正交补是 Null(Aᵀ)← 正确答案
  • C.零空间维数等于 n 减去矩阵的秩← 正确答案
  • D.零空间与左零空间维数之和等于 m 减 n

答案：ABC。A 和 B 是四大子空间正交关系的标准结论。C 是秩-零化度定理的直接翻译：dim Null(A)=n-rank(A)。D 错误：dim Null(A)=n-rank(A)，dim Null(Aᵀ)=m-rank(A)，两者之和是 m+n-2rank(A)，一般不等于 m-n。

Q10. 设 P 是到子空间 W 的正交投影算子，以下说法正确的有哪些？

多选题 · extreme

  • A.P 是幂等的，满足 P²=P← 正确答案
  • B.P 的零空间是 W⊥← 正确答案
  • C.Pv 与 v−Pv 总是正交← 正确答案
  • D.P 一定是可逆矩阵

答案：ABC。正交投影的几何定义决定了 P²=P：投影两次与投影一次效果相同（A 正确）。P 会把所有 W⊥ 中的向量映射为零，所以它的零空间恰是 W⊥（B 正确）。Pv 在 W 中，v−Pv 在 W⊥ 中，两者必然正交（C 正确）。D 错误：当 W 是 V 的真子空间时，P 会把大量向量压平，不可逆；只有投影到全空间（P 是单位阵）时才可逆。