先求特征值：
|λE-A|=|(λ-1 -2 3) (1 λ-4 3) (-1 2 λ-5)|=(λ-2)^2(λ-6)=0
所以特征值λ1=λ2=2,λ3=6
求特征向量：
当λ=2时：λE-A=(1 -2 3) (1 -2 3) (-1 2 -3)
解得特征向量分别为：ξ1=(-3 0 1) ξ2=(2 1 0)
当λ=6时,λE-A=(5 -2 3) (1 2 3) (-1 2 1)
特征向量为ξ3=(1 1 -1)
所以P=(-3 2 1) (0 1 1) (1 0 -1)
矩阵对角化：P的逆AP=(2 0 0)(0 2 0)(0 0 6)
对角矩阵为(2 0 0)(0 2 0)(0 0 6)