∵y''-2y'+y=0的特征方程是r²-2r+1=0,则r=1
∴y''-2y'+y=0的通解是 y=(C1x+C2)e^x (C1,C2是积分常数)
∵设y''-2y'+y=sinx+xe^x的特解是 y=Acosx+Bsinx+Cx³e^x
y'=-Asinx+Bcosx+3Cx²e^x+Cx³e^x
y''=-Acosx-Bsinx+6Cxe^x+6Cx²e^x+Cx³e^x
代入原方程整理 2Asinx-2Bcosx+6Cxe^x=sinx+xe^x
==> A=1/2,B=0,C=1/6
∴y''-2y'+y=sinx+xe^x的特解是 y=(1/2)cosx+(1/6)x³e^x
故y''-2y'+y=sinx+xe^x的通解是 y=(C1x+C2)e^x+(1/2)cosx+(1/6)x³e^x (C1,C2是积分常数).