楼主的题目有点问题,由图知：轻绳是与竖直方向的夹角为30°,而不是与斜面的夹角成30°.正确的做法是这样的：
先求出物体对劈的垂直于劈面的压力Fn=√3/3mg（这个楼主求的是正确的,我就不多说了）,然后对劈进行受力分析,劈竖直方向上：受到向下的重力Mg,物体对劈的压力Fn的竖直分力Fny=√3/2*Fn=mg/2；向上的地面对劈的支持力N.
水平方向上受到向左的Fn的水平分力Fnx=1/2*Fn=√3/6mg；向右的摩擦力f.
要想物体受力平衡,于是Fnx=f,Fny+Mg=N,
所以由f=kN,
k=f/N=Fnx/(Fny+Mg)==√3/6mg/(mg/2+Mg)==√3m/(3m+6M)
如果还有不懂的可以再问,希望可以帮到你.