A^(-1)BA=6A+BA
则(A^(-1)-E)BA=6A
因为A 显然为非奇异矩阵.等式左右 右乘A^(-1)
(A^(-1)-E)BA*A^(-1)=6A*A^(-1)
(A^(-1)-E)B=6E
则:B=6(A^(-1)-E)^(-1)
由A得
A^(-1)=
3 0 0
0 4 0
0 0 7
(A^(-1)-E)=
2 0 0
0 3 0
0 0 6
则(A^(-1)-E)^(-1)=
1/2 0 0
0 1/3 0
0 0 1/6
则B=6(A^(-1)-E)^(-1)=
3 0 0
0 2 0
0 0 1