这个叫Cayley变换,直接验证B'B=E就可以了,注意关于A的矩阵函数都是可交换的.另一种证明方法是先把A酉对角化,其特征值都是纯虚数,这样B可酉对角化且特征值的模都是1.
另一题直接反证,β=c1α1+c2α2+c3α3,分别用αi做内积得ci=0.
初学者更应该自己多动手,而不是坐等详细的解答.
第一题已经告诉你直接验证了,(I+A)(I-A)=(I-A)(I+A)总不至于不会验证吧.如果选用酉对角化的办法,A的特征值一定在虚轴上,接下去自己算.
第二题关于c_i有三个方程,系数矩阵对称正定.等价的办法是先取α1,α2,α3的正交基.