пусть X книг на верхней полке, 
Y - на нижней 

тогда составим систему уравнений: 
X+Y = 36 
(X+4):(Y-4) = 2 

из первого уравнения: 
X = 36-Y 

из второгоуравнения: 
X+4 = 2Y-8 
X=2Y-12 

объединим: 
36-Y=2Y-12 
3Y=48 
Y=16 

X=36-Y=36-16=20 

То есть на верхней полке было 20, на нижней - 16 
Проверка: 
если переложим с нижней на верхнюю 4 книги на нижней будет 12, на верхней 24, то есть в 2 раза больше