Источник TeX:

\frac{a(5-\sqrt{13})}{8}