（1）成绩合格的频率为：0.2+0.3=0.5，
所以，样本容量为：40÷0.5=80；…（3分）
（2）成绩位于79.5～89.5的频率为1-（0.1+0.2+0.3+0.15）=0.25．…（1分）
成绩为优良的频率为：0.25+0.15=0.4，
所以，全校所有参赛学生中成绩等第为优良的学生人数为600×0.4=240（人）；…（2分）
（3）本次随机抽样分析成绩不合格的人数为80×0.1=8（人），
成绩优良的人数为80×0.4=32（人），…（1分）
依据题意，可得方程组
57×8+40a+32b
80＝76.5
−a+b＝15，…（1分）
解得
a＝72
b＝87；…（1分）
故所求a、b的值分别为72，87；
（4）成绩位于59.5～69.5的人数为：80×0.2=16，
成绩位于69.5～79.5的人数为：80×0.3=24，
∵得分都是整数，
∴a≥[16×60+24×70/16+24]=[2640/40]=66，
a≤[16×69+24×79/16+24]=[3000/40]=75，
所以，a的取值范围是66≤a≤75，
即[66，75]．
故答案为D．…（3分）