A=
1 1 1
2 4 -2
-3 -3 a
与
B=
0 -2 0
2 0 0
0 0 b
相似
则 |A|=|B| 且 tr(A)=tr(B)
即有 2(a+3) = 4b, 5+a = b
由此解得 a,b
之后的计算就是常规运算了