Для  m = 1  нетрудно проверить, что при  xy > 1  решений нет. Таким образом, решений конечное число, и все сводится к небольшому перебору.

  Решим задачу для  m = 3  (для других  m > 1  решение совершенно аналогично).

  Мы должны доказать, что, во-первых, все пары чисел (2) удовлетворяют уравнению (1) и, во-вторых, никакие другие пары неотрицательных целых чисел этому уравнению не удовлетворяют.

  В последовательности (2) за каждой парой  (x, y)  следует пара  (x', y') = (y, 3y – x).   (3)

  Преобразование  (x, y) → (y, 3y – x)  обозначим буквой T. Заметим, что если пара   (x, y)  удовлетворяет уравнению (1), то пара  (x',y') = T(x, y)  ему тоже удовлетворяет:  y² – 3y(3y – x) + (3y – x)² = y² – 3xy + x².   (4)

  Отсюда сразу видно, что все пары (2) удовлетворяют уравнению (1): ведь пара  (0, 1)  ему удовлетворяет, а все остальные получаются из неё с помощью конечного числа преобразований T.

  Докажем теперь, что других решений  (x, y)  в целых числах, подчиненных условиям  0 ≤ x < y,  у уравнения (1) нет. Пусть  (x', y')  – одно из таких решений. Найдём такую пару  (x, y),  из которой эти x' и y' получаются по формулам (3):  x = 3x' – y', y = x'.   (5)   Из равенств (4) следует, что если пара  (x', y')  удовлетворяет уравнению (1), то пара  (x, y) = T^–1(x', y')  ему также удовлетворяет. Покажем, что если, кроме того,  0 < x' < y',  то  0 ≤ x < y.   (6)

  Представим равенство  x'² – 3x'y' + y'² = 1  следующими двумя способами:

     x'² + y'(y' – 3x') = 1,   (7)

     x'(x' – y') + y'(y' – 2x') = 1.   (8)

  Из равенства (7) сразу следует (x' и y' положительны!), что  –x = y' – 3x' ≤ 0.

  Из равенства (8) следует, что  y – x = y' – 2x' > 0  (ведь  x' – y'  отрицательно).

  Заметим, что неравенства (6) можно переписать и так:  0 ≤ x < x'.   (9)

  Итак, любое решение  (x', y'),   0 < x' < y',  после преобразования T^–1 переходит в решение  (x, y),  для которого  0 ≤ x < y.

  Если при этом  x > 0,  то мы можем применить T^–1  еще один или несколько раз, получая новые (меньшие по величине) решения.

  Действительно, x при каждом преобразовании уменьшается. Поэтому через некоторое конечное число шагов мы должны будем остановиться, а остановиться мы можем лишь тогда, когда получим решение  (x, y),  у которого  x = 0  и, следовательно,  y = 1.

  Отсюда следует, что каждое решение получится из  (0, 1)  за конечное число преобразований T, то есть что никаких других, отличных от (2), решений нет.

Ответ задачи отсутствует