Источник TeX:

OM ^2 = \left( R+r \right) ^2 - \left( \frac{3a}{4} \right) ^2