B
特征多项式为:
r^2-2r+2=0
根为:r=1±i√2
实部与右边的指数相同,所以设为
xe^x(Acosx+Bsinx)
D
r^2-2r-3=0
根为:r=-1,3
所以解为
c1e^(-x)+c2e^(3x)