解题思路：首先利用多项式乘法法则计算出（ax2+bx+1）（2x2-3x+1），再根据积不含x3的项，也不含x的项，可得含x3的项和含x的项的系数等于零，进而算出a、b的值．再计算（a-b）2的值即可．
（ax2+bx+1）（2x2-3x+1），
=ax4-3ax3+ax2+2bx3-3bx2+bx+2x2-3x+1，
∵积不含x3的项，也不含x的项，
∴-3a+2b=0，b-3=0，
解得：b=3，a=2，
则（a-b）2=（2-3）2=1．
点评：
本题考点： 多项式乘多项式．
考点点评： 此题主要考查了多项式乘以多项式，关键是掌握多项式与多项式相乘的法则：多项式与多项式相乘，先用一个多项式的每一项乘另外一个多项式的每一项，再把所得的积相加．