(1)由曲线C:x^2+y^2-2x-2y+1=0得,曲线C方程可改写为(x-1)^2+(y-1)^2=1^2,故C为以(1,1)为圆心,1为半径的圆.
直线AB的方程可写为y/b+x/a=1,化简为bx+ay-ab=0
圆心到直线AB的距离d=(a*1+b*1-ab)的绝对值/根号(a^2+b^2)=1
化简得(a-2)(b-2)=2
(2)设线段AB中点坐标为(x,y) 由中点坐标公式得：x=a/2,y=b/2
故a=2x b=2y 代入(a-2)(b-2)=2即可得AB中点方程为(x-1)(y-1)=1/2.
(3)由2=(a-2)(b-2)=ab-2(a+b)+4得ab-2(a+b)+2=0≥ab-2*根号ab+2=0
化简得ab≤6+4*根号2
所以S三角形AOB=1/2ab≤1/2(6+4*根号2)=3+2*根号2
三角形AOB面积的最小值为3+2*根号2