(1)设圆M的方程为:(x-a)2+(y-b)2=r2(r>0),
根据题意得:1-a2+-1-b2=r2-1-a2+1-b2=r2a+b-2=0,
解得:a=b=1,r=2,
故所求圆M的方程为:(x-1)2+(y-1)2=4.
(2)由题知,四边形PAMB的面积为
S=S△PAM+S△PBM=|AM||PA|+|BM||PB|.
又|AM|=|BM|=2,|PA|=|PB|,
所以S=2|PA|,
而|PA|=|PM|2-|AM|2=|PM|2-4,
即S=2|PM|2-4.
因此要求S的最小值,只需求|PM|的最小值即可,
即在直线3x+4y+8=0上找一点P,使得|PM|的值最小,
所以|PM|min==3,
所以四边形PAMB面积的最小值为
S=2|PM|2-4=232-4=25.