Такую штуку нужно решать системой. Пусть первое число - x, тогда второе - y, тогда:

Выразим из первой части системы x:

Теперь подставим первую часть во вторую и решим уравнение (теперь уже, благо, с одной переменной):

Вроде как кошмар. А давайте раскроем скобки!

И вот уже всё намного лучше:

Ответик тот ещё, но это уже что-то - возвращаемся к системе и находим y:
Вот и ответ: кошмар окончен. Подставив x и y в пример увидим, что, о счастье, подходит.
P. S. Уважаемые, кто говорит, что любой пример со всех учебников даёт простые ответы, так что всё можно решить подбором...дерзайте.