(1)|OA|:|OB|=1:5,|OB|=|OC|,所以|AB|=6|OA|,|OB|=|OC|=5IOAI,S△ABC=15,
即0.5*IABI*IOCI=0.5*6IOAI*5IOAI=15,IOAI=1,所以点A、B、C的坐标分别为(0,-1)、(5,0)、(0,-3),把它们代入y=ax^2+bx+c中,解得a=1,b=-4,c=-5,所以此抛物线的函数表达式为
y=x^2-4x-5.
(2)抛物线的对称轴为x=2,依题意,设E点的坐标为(x+2,y),则F的坐标为(x+2,y),当矩形EFGH为正方形时,EF=EH,即(x+2)-(x-2)=y,解得y=4,即该正方形的边长等于4.
(3)使△MBC中BC边上的高为7根号2,直线BC的解析式求得为y=-x-5,即x+y+5=0,设M的坐标为(x,y),则x+y+5=14,联立y=x^2-4x-5,解得x=3-根号65,y=6+根号65或x=3+根号65,y=6-根号65(不合题意舍去),所以点M的坐标为(3-根号65,6+根号65).