解题思路：把参加数学兴趣小组学习的人数看作单位“1”，先求出六年级和五年级参加数学兴趣小组的人数的和占的分率，再根据占的分率确定参加数学兴趣小组学习的人数，最后根据没参加人数=总人数-参加人数即可解答．
因为：[8/17]+[9/23]=[337/391]
所以：参加数学兴趣小组学习的学生一定是391的倍数，
又因总人数是780人，391×2=782（人）
所以：参加数学兴趣小组学习的学生一定是391人，
780-391=389（人）
答：该校没有参加数学兴趣小组的学生有389人．
点评：
本题考点： 分数四则复合应用题．
考点点评： 解答本题的关键是确定参加数学兴趣小组学习的人数．