首先说明一下,你这个方程我没解出来,并且目测没有解析解,下面就说明一下我为什么这么觉得.
Mathematica对积分微分方程没有直接支持,但是目测你这个方程可以通过适当的变换变成完全的微分方程.于是出血大放送地抄了一下你的代码,并且试着变了一下：
exp = Integrate[Sqrt[1 + y'[x]^2],{x,0,x}];
eqn= D[Block[{exp},Solve[(Sqrt[3]/10 exp - y[x])/(1 - x + 1/10 exp) - y'[x] == 0,exp]],x] /.Rule -> Equal
这下这就是个完全的微分方程了,不过扔进DSolve发现还是没法解,我并不意外,因为这个方程：
{{Sqrt[1 + Derivative[1][y][x]^2] == (10*(y[x] + Derivative[1][y][x] - x*Derivative[1][y][x])* Derivative[2][y][x])/(Sqrt[3] - Derivative[1][y][x])^2 + (10*(Derivative[2][y][x] - x*Derivative[2][y][x]))/
(Sqrt[3] - Derivative[1][y][x])}}
是个非线性方程,而非线性方程无解析解的情况很常见.你可以考虑考虑数值解.