Источник TeX:

-\text{ctg}\alpha\sqrt{a^2+b^2+2ab\cos \alpha}