选D.
f(x)=x^2+ax^2+bx-7在R上单调递增,说明f(x)为一次函数,二次项系数为0;
即1+a=0,a=-1;
f(x)=bx-7在R上单调递增,则有b>0;
看选项,知a^2-3b=(-1)^2-3b=1-3b=0;a^2-3