系数行列式 =
λ+3 1 2
λ λ-1 1
3(λ+1) λ λ+3
= λ^2(λ-1).
所以当λ≠0且λ≠1时,方程组有唯一解.
当λ=0时,增广矩阵 =
3 1 2 0
0 -1 1 0
3 0 3 3
r3-r1-r2
3 0 3 0
0 -1 1 0
0 0 0 3
此时方程组无解.
当λ=1时,增广矩阵 =
4 1 2 1
1 0 1 1
6 1 4 3
r3-r1
4 1 2 1
1 0 1 1
2 0 2 2
r1-4r2,r3-2r1
0 1 -2 -3
1 0 1 1
0 0 0 0
-->
1 0 1 1
0 1 -2 -3
0 0 0 0
此时方程组有无穷多解.
其一般解为:(1,-3,0)^T + c(-1,2,1)'.