В прямоугольном треугольнике против угла в 30 градусов лежит катет, равный половине гипотенузы, то есть 16/2 = 8 см. Второй катет равен √(16²-8²) = √(256-64) = √192 = 8√3.
Обозначим стороны искомого прямоугольника за х и у.
Сторона у = 8√3-х/tg30° = 8√3-x/(1/√3) = 8√3-x√3 = √3(8-x).
Площадь прямоугольника равна ху или х(√3(8-x) = √3(8х-х²).
Производная площади равна √3(8-2х) или -2√3(х-4).
Для нахождения экстремума наше функции приравняем производную нулю: -2√3(х-4) = 0,
Получаем х - 4 = 0,
                 х = 4.
Ответ: максимальные размеры прямоугольника равны:
высота - 4 см,
длина - √3(8-4) = 4√3 ≈  6,928203 см.