解题思路：（1）A的特征值之和为A的主对角线上元素之和，特征值之积为A的行列式，由此可求出a，b 的值；（2）求出A的特征值和特征向量，并将相同特征值的特征向量正交化（若有必要），然后将特征向量单位化并以此为列所构造的矩阵即为所求的正交矩阵．
（1）
二次型f的矩阵为：A＝
a0b
020
b0−2，
设A的特征值为λi（i=1，2，3）．
由题设，有：λ1+λ2+λ3=a+2+（-2）=1，λ1λ2λ3=
.
a0b
020
b0−2.=-4a-2b2=-12．
解得：a=1，b=-2．
（2）
由矩阵A的特征多项式：
.
λE−A.=
.
λ−10−2
0λ−20
−20λ+2.=（λ-2）2（λ+3），
可得A的特征值为：λ1=λ2=2，λ3=-3．
①对于λ1=λ2=2，解齐次线性方程组（2E-A）x=0，得其基础解系：ξ1＝(2，0，1)T，ξ2＝(0，1，0)T．
②对于λ3=-3，解齐次线性方程组（3E-A）x=0，得基础解系：ξ3＝(1，0，−2)T．
由于ξ1，ξ2，ξ3已是正交向量组，为了得到规范正交向量组，只需将ξ
点评：
本题考点： 用正交变换法化二次型为标准形．
考点点评： 本题求a，b，也可先计算特征多项式，再利用根与系数的关系确定．
二次型f的矩阵A对应特征多项式为.λE−A.=.λ−a0−b0λ−20−b0λ+2.=（λ-2）[λ2-（a-2）λ-（2a+b2）]．
设A的特征值为λ1，λ2，λ3，则λ1＝2，λ2+λ3＝a−2，λ2λ3＝−(2a+b2)．由题设得λ1+λ2+λ3=2+（a-2）=1，λ1λ2λ3＝−2(2a+b2)＝−12．
解得a=1，b=2．