解题思路：把总人数看作单位“1”，先求出参加语文和数学小组人数占总人数的分率，再求出比总人数多的分率，也就是12人占总人数的分率，依据分数除法意义，求出总人数，最后依据分数乘法意义即可解答．
12÷（[3/4]+40%-1）
=12÷（115%-1）
=12÷15%
=80（人）
80×[3/4]=60（人）
80×40%=32（人）
答：数学组有60人，语文组有32人．
点评：
本题考点： 分数四则复合应用题；容斥原理．
考点点评： 分数乘法意义，以及分数除法意义是解答本题的依据，解答本题的关键是依据分数除法意义求出总人数．