Заметим сначала, что cos 2$\gamma$- cos($\pi$-$\alpha$-$\beta$) = cos 2$\alpha$cos 2$\beta$- sin 2$\alpha$sin 2$\beta$. Поэтому cos 2$\alpha$+ cos 2$\beta$- cos 2$\gamma$= cos 2$\alpha$+ cos 2$\beta$- cos 2$\alpha$cos 2$\beta$+ sin 2$\alpha$sin 2$\beta$. Так как acos$\varphi$+bsin$\varphi$$\leq$$\sqrt{a^2+b^2}$(см. приложение к гл. 9), то (1 - cos 2$\beta$)cos 2$\alpha$+ sin 2$\beta$sin 2$\alpha$+ cos 2$\beta$$\leq$$\sqrt{(1-\cos2\beta )^2+\sin^22\beta }$+ cos 2$\beta$= 2| sin$\beta$| + 1 - 2 sin²$\beta$. Остается заметить, что наибольшее значение квадратного трехчлена 2t+ 1 - 2t²достигается в точке t= 1/2 и равно 3/2. Максимальное значение соответствует углам $\alpha$=$\beta$= 30^o,$\gamma$= 120^o.

Ответ задачи отсутствует