Источник TeX:

\dfrac{a^2 + a\sqrt{a^2 + 8b^2}}{4}