Элементарная математика. Геометрия.

Пусть $O$ — точка пересечения диагоналей. Рассмотрим треугольник $ABO$ и запишем теорему косинусов для сторон $AB, BC$.

$AB^2 = AO^2 + BO^2 - 2 \cdot BO \cdot AO \cdot \cos \alpha$;

$BC^2=CO^2+BO^2-2\cdot BO\cdot AO\cdot\cos(180^\circ-\alpha)$.

Пусть $AO=k_1, BO=k_2$, тогда получим:

$a^2 = k_1^2 + k_2^2 - 2k_1k_2 \cdot \cos \alpha$;

$b^2= k_1^2 + k_2^2 +2k_1k_2 \cdot \cos \alpha$.

Сначала сложим эти два выражения, а затем вычтем первое из второго:

$a^2 + b^2 = 2(k_1^2 + k_2^2)$; (1)

$b^2-a^2=4k_1k_2 \cdot \cos \alpha$. (2)

Из уравнения (2) находим

$\cos \alpha = \dfrac{b^2 -a^2 }{4k_1k_2}$.

Поделим обе части (1) на $a^2 + b^2$ и получим:

$1 = \dfrac{2(k_1^2 + k_2^2)}{a^2 + b^2}$.

С учетом последнего равенства запишем выражение для косинуса:

$\cos \alpha = \dfrac{b^2-a^2}{4k_1k_2} = \dfrac{(b^2-a^2) \cdot2 (k_1^2 + k_2^2)}{4k_1k_2 \cdot (a^2 + b^2)}$ $= \dfrac{(b^2-a^2) \cdot (k_1^2 + k_2^2)}{2(a^2 + b^2) \cdot k_1k_2}$.

Из неравенства Коши $\sqrt{xy} \leq \dfrac{x+y}{2}$ можем получить, что:

$k_1k_2 \leq \dfrac{k_1^2+k_2^2}{2} => \dfrac{k_1^2+k_2^2}{k_1k_2} \geq 2$,

отсюда получим: $\cos \alpha \geq \dfrac{b^2-a^2}{a^2 + b^2}$.

Т.к. угол $\alpha$ острый, то $\cos \alpha$ не может быть меньше нуля, значит нужно поставить модуль.

В итоге получаем:
$\dfrac{|b^2-a^2|}{a^2 + b^2} \leq \cos \alpha < 1$.

Ответ:

$\dfrac{b^2-a^2}{a^2 + b^2} \leq \cos \alpha < 1$