方程解法是对的.
算术解法错误之处如下：（【】中才是正确的）
第一次把小球沉入水中,溢出的是小球的体积,假设是1；
第二次把小球取出,把中球沉入水中,中球首先要补上小球的体积1,又溢出了1的2【3】倍,
那中球的体积就是1+2=3【1+3=4】；
第三次取出中球,把小球和大球一起沉入水中,溢出的是第二次的1.5倍【第一次的2.5倍】,也就是2×1.5=3【1×2.5=2.5】,
还要补上之前溢出的1+2=3【1+3=4】份,3+3=6【4+2.5=6.5】,大球的体积是6-1=5【6.5-1=5.5】.
1：3：5 【1：4：5.5 = 2：8：11】