已知(a-3)x^2y^|a|+(b+2)是关于xy的五次单项式,求a^2-3ab+b^2的值.