9.5 线性变换的不变子空间、Hamilton–Cayley 定理

子空间 $U$ 若满足 $T(U) \subseteq U$ ，就称为 $T$ 的不变子空间。它要求变换后的向量留在 $U$ 中，而非要求每个向量原地不动。零空间、全空间、 $\ker (T)$ 、 $\operatorname{Im}(T)$ 及特征子空间都是典型的不变子空间。

\begin{gathered}T(U)\subseteq U\\T|_U:U\to U,\quad u\mapsto T(u)\end{gathered}

不变子空间的交与和仍然不变。若 $S$ 与 $T$ 可交换，则 $S$ 的核与像是 $T$ 的不变子空间；特别地， $\ker p(T)$ 、 $\operatorname{Im} p(T)$ 都对 $T$ 不变。判断一个已给出基的 $U$ 是否不变，只需检查每个基向量的像是否属于 $U$ 。

不变子空间提供分块表示。先取 $U$ 的基并扩充成 $V$ 的基，矩阵呈分块上三角形；若 $V$ 能分成若干不变子空间的直和，就能把 $T$ 表为分块对角矩阵，各块分别表示相应的限制。

\begin{gathered}V=U_1\oplus\cdots\oplus U_s,\quad U_j\text{ 均不变}\\\implies[T]=\operatorname{diag}([T|_{U_1}],\ldots,[T|_{U_s}])\end{gathered}

寻找这种分解的一项重要工具是互素多项式。若 $p = p_{1}\cdots p_{s}$ ，且各 $p_{j}$ 两两互素，则有下式。其理由来自多项式的 Bézout 等式；当 $p(T) = 0$ 时，左端就是整个 $V$ 。

\begin{aligned}\ker p(T)&=\ker p_1(T)\oplus\cdots\\&\qquad\oplus\ker p_s(T)\\[.5em]p(T)=0&\implies V=\ker p_1(T)\\&\qquad\oplus\cdots\oplus\ker p_s(T)\end{aligned}

满足 $p(T) = 0$ 的多项式称为零化多项式。Hamilton–Cayley 定理，也称 Cayley–Hamilton 定理，说明有限维线性变换的特征多项式必定使它零化：

\begin{aligned}\chi_T(t)&=t^n+c_{n-1}t^{n-1}\\&\quad+\cdots+c_1t+c_0\\[.5em]\chi_T(T)&=T^n+c_{n-1}T^{n-1}\\&\quad+\cdots+c_1T+c_0I\\&=0\end{aligned}

这允许用较低次幂表示高次幂。若 $c_{0} \ne 0$ ，还能从中表示 $T^{-1}$ 。证明可通过特征矩阵与伴随矩阵的恒等式比较系数，再消去中间项；代入多项式时，常数项必须乘 $I$ 。