①无限不循环小数是无理数,无限循环小数是有理数,故①错误;
②正方形的对角线不一定是无理数,故②错误;
③带根号的数不一定是无理数,只有开方开不尽的数才是无理数,故③错误;
④有限小数是有理数,故④正确.
综上可得④正确.
故选C.