|A-λE|=|λ -1 1; -1 λ 1; 1 1 λ|=(λ+2)(λ-1)^2
特征方程为:(λ+2)(λ-1)^2=0
特征根为:λ1=-2 λ2=1 λ3=1
对应λ1=-2:[2 -1 1;-1 2 1;1 1 2]X=0 的基础解系:(-1,-1,1)
对应λ2=1 λ3=1:[-1 -1 1;-1 -1 1;1 1 -1]X=0 的基础解系:(-1,1,0);(1,0 ,1)
∴可逆的相似矩阵P为:
[-1 -1 1]
[-1 1 0]
[1 0 1]
化成的对角矩阵为:
[ -2 0 0]
[ 0 1 0]
[ 0 0 1]