(1)∵正方形OABC的面积为9,
∴正方形OABC的边长为3,即OA=3,AB=3,
∴B点坐标为(3,3).
又∵点B在函数y=k/x的图象上,
∴3=k/3,∴k=9.
(2)∵点P(m,n)在双曲线y=9/x上,
∴n=9/m,即mn=9.
又∵矩形OEPF与正方形OABC不重合部分的面积为9/2,
即S矩形PGBC+S矩形AEPG=9/2,
∴3(3-n)+n(m-3)=9/2,
∴9-3n+mn-3n=9/2,即9-6n+9=9/2.
∴n=9/4,∴m=9/m=4.
∴P点坐标为(4,9/4).
同理当P点在BA的左边时可得P点坐标为(9/4,4).
(3)S=3(3-n)+n(m-3)=18-6n
=18-6·9/m=18-54/m(m≥3)
=6n-18=54/m-18(0