Источник TeX:
\frac{a(2b \pm a)}{2\sqrt{3b^2 - a^2}}