Cформулируем нашу задачу на геометрическом языке. Каждую пару целых чисел  (x, y)  будем называть "целой точкой" и изображать красной точкой, если обе её координаты неотрицательны, и синей точкой – если хотя бы одна координата отрицательна. Для каждого целого n уравнение  ax + by = n  определяет прямую l_n. Все прямые l_n параллельны друг другу. Пусть n – целое. Будем считать прямую l_n красной, если она проходит хотя бы через одну красную точку, и синей – в противном случае.

  Каждая прямая l_n проходит ровно через целую одну точку полосы  0 ≤ x ≤ b – 1  (см. задачу 160525 а, при  b = 1  полоса вырождается в прямую). При этом очевидно, что если прямая красная, то её целая точка в выделенной полосе тоже будет красной (а точка синей прямой, разумеется, синяя).

  Теперь заметим, что при симметрии относительно точки  (^b–1/₂, ½)  (эта симметрия задаётся формулой  (x, y)  →  (b – 1 – x, –1 – y))  указанная полоса переходит в себя, причём красные точки переходят в синие, и наоборот. Прямую l_n эта симметрия переводит в прямую l_{ab–a–b–n} :

если  ax + by = n,  то  ax' + by' = a(b – 1 – x) + b(–1 – y) = ab – a – b – n.  Ясно, что самая нижняя красная прямая – это l₀. Следовательно, самая верхняя синяя прямая – это l_ab–a–b.  Итак, наибольшее число, не принадлежащее множеству M, – это   c = ab – a – b,   и из двух чисел n и  c – n  одно принадлежит M, а другое – нет.

а)  c = ab – a – b.