∵f(x)=ax-b/x,∴f′(x)=a+b/x^2,∴过点(2,f(2))的切线的斜率=a+b/4,
∴a+b/4=7/4,∴a=7/4-b/4.······①
∵曲线f(x)=ax-b/x上的点(2,f(2))在直线7x-4y-12=0上,
∴14-4(2a-b/2)-12=0,∴2-8a+2b=0,∴b=4a-1.······②
将②代入到①中,得:a=7/4-(4a-1)/4,∴4a=7-4a+1,∴a=1,∴b=4×1-1=3.
∴f(x)=x-3/x,∴f(x)=1+3/x^2.
令(m,f(m))为f(x)=x-3/x上的任意一点,则有:f(m)=m-3/m,f′(m)=1+3/m^2.
∴过点(m,f(m))的切线的斜率=1+3/m^2.
∴过点(m,f(m))的切线方程为:y-(m-3/m)=(1+3/m^2)(x-m).
令y-(m-3/m)=(1+3/m^2)(x-m)中的x=0,得:y=m-3/m-m-3/m=-6/m.
∴过点(m,f(m))的切线与x=0的交点为A(0,-6/m).
令y-(m-3/m)=(1+3/m^2)(x-m)中的y=x,得:
y-m+3/m=(1+3/m^2)y-m-3/m,∴(3/m^2)y=6/m,∴y=2m,∴x=y=2m.
∴过点(m,f(m))的切线与y=x的交点为B(2m,2m).
在△OAB中,显然有:|OA|=|6/m|,B到OA的距离=|2m|.
∴S(△OAB)=(1/2)|6/m||2m|=6.
∴曲线y=f(x)上任一点与直线x=0、y=x所围成的三角形面积为定值,此定值是6.