解题思路：小球的加速度方向与凹槽的加速度方向相同，都是水平向右，分别对小球和凹槽进行受力分析，运用牛顿第二定律即可分析求解．
A、小球的加速度方向水向右，所以合外力方向水平向右不为0，故A错误；
B、对小球进行受力分析，小球竖直方向受力平衡：Ncosα=mg，得凹槽对小铁球的支持力N=[mg/cosα]，故B错误；
C、对小球进行受力分析得：mgtanα=ma，解得：a=gtanα，故C正确；
D、对整体进行受力分析，根据牛顿第二定律得：F=（M+m）a=（M+m）gtanα，故D错误；
故选：C．
点评：
本题考点： 牛顿第二定律；物体的弹性和弹力．
考点点评： 本题主要考查了同学们受力分析的能力，注意小球与凹槽的加速度相同，难度不大，属于基础题．