(1)若AB绳子为一整体的话,滑轮的支持力当然是外力啦……隔离法时你没有包含的物体,它对被隔离的系统的力当然是外力啦,所以就很好地解决了你的问题了,A有水平加速度,B有竖直加速度,且两者大小相等,所以系统合加速度方向为水平向下45度
(2)B的重力当然是外力啦,因为这是地球对它施加的力,就正如有一个拉力拉在B一样,也等于拉着整个系统啊,如果把地球也算进个立体的话,B的重力才是内力
(3)首先N地必然和A重力抵消,所以这两个力不予考虑,所以外力有滑轮支持力和B重力
水平方向由牛顿第二定律N轮*cos45=ma*a
竖直方向：mbg-N轮sin45=mba
解得N轮=根号2*mb*ma*g/(ma+mb)