首先特征空间子相同并不意味着特征值对应相等.
所以由(λE - A)X = 0推出(λE - B)X = 0是不可行的.
其次特征空间未必是相同的.
例如A = E,属于1的特征子空间是全空间,但一般不是B的特征子空间.
这道题一般是这样证的.
设λ是A的特征值,V是A的属于λ的特征子空间.
对于任意X∈V,有AX = λX.
可得λBX = BAX = ABX = A(BX),即有BX∈V.
我们得到V是B的不变子空间.
由A可对角化,全空间可以分解为A的特征子空间的直和V1⊕V2⊕...⊕Vk.
已证V1,V2,...,Vk都是B的不变子空间.
有个定理保证:若B可对角化,则B在不变子空间上的限制也可对角化.
在V1,V2,...,Vk中分别取一组基,使B的限制对角化,它们组成全空间的一组基.
在这组基下A,B同时对角化.
以上其实是将A,B视为线性变换来证明的.
对于条件中的矩阵A,B.任取线性空间的一组基,则有两个线性变换以A,B为其矩阵.
不妨仍将这两个线性变换分别记为A,B,则由矩阵A,B可交换可知线性变换A,B可交换.
矩阵可对角化当且仅当其对应的线性变换在一组基下的矩阵为对角阵.
要证矩阵A,B可由同一个可逆矩阵S对角化,只要证线性变换A,B在同一组基下的矩阵同为对角阵.
如果不用线性变换的语言,可以改用分块矩阵来证明.
由A可对角化,存在可逆矩阵T使C = T^(-1)AT是对角阵,且相同特征值排在一起.
即C可以写成分块对角形式,对角线上依次是λ1E,λ2E,...,λkE,其中λi两两不等.
由A,B可交换,C与D = T^(-1)BT可交换.
作为与对角矩阵可交换的矩阵,可知D为准对角矩阵,并与C有相同的分块.
对角线上依次为D1,D2,...,Dk,其它分块为0.
然后上面用到的定理变为:
若一个准对角矩阵可对角化,则对角线上各分块均可对角化.
证明可以用几何重数等于代数重数.
设可逆矩阵P1,P2,...,Pk分别使D1,D2,...,Dk对角化.
则以它们为对角分块的准对角矩阵P满足P^(-1)DP为对角阵.
同时,P^(-1)CP = C.
于是取S = TP,有S^(-1)AS与S^(-1)BS都为对角阵.