Источник TeX:

NM=\sqrt{AN^{2}+AM^{2}-2AN\cdot AM \cos\alpha}