5a²+b²-6a-4ab+9
=4a²+a²+b²-6a-4ab+9
=(4a²-4ab+b²)+(a²-6a+9)
=(2a-b)²+(a-3)²
=0
∴2a-b=0且a-3=0
a=3
b=2a=6