(1)∵在Rt△OAC中,OA=5,OC=4,
∴AC²=5²-4²=3²,
∴AC=3
∴A(-4,3),
∵把A的坐标代入y=m/x
得:m=xy=-12,
∴y=-12/x,
∵令y=6,解得:x=-2,
∴B(-2,6),
∵y=kx+b过A、B两点,
∴-4k+b=3
-2k+b=6
解得
k=3/2 b=9,
∴y=3/2x+9;
(2)设直线AB交y轴于D,
∵在y=3/2x+9中,令x=0时,y=0+9=9,
∴D(0,9),
∴S△AOB=S△OAD-S△OBD=1/2×9×4-1/2×9×2=9.