条件说明z=Ay=A(Ax)=(A^2)x.
1.AP=(Ax,Ay,Az),其中
Ax=y,
Ay=z,
Az=A((A^2)y)=(A^3)x=3Ax-(A^2)x=3y-z.
所以(Ax,Ay,Az)=(x,y,z)B,其中B=
0 0 0
1 0 3
0 1 -1
(可以通过做矩阵乘法(x,y,z)*B验证).
2.对AP=PB两边取行列式,得|A|*|P|=|P|*|B|.由条件知(x,y,z)=(x,Ax,(A^2)x)线性无关,所以组成的矩阵P的行列式非零,|P|≠0.所以上式说明|A|=|B|.直接计算B的行列式可知|B|=0,所以|A|=0.