(знак ^ обозначает возведение в степень. Например a^2 = a в квадрате, И так далее )

a)9x^2+6xy+y^2-z^2 = (3x+y)^2 - z^2 = (3x+y+z)*(3x+y-z)
б) 16a-16b-a^3+b*a^2 = 16(a-b)+a^2*(b-a) = (16-a^2)*(a-b)=(4+a)*(4-a)*(a-b)

Если что-то непонятно, советую вспомнить формулы квадрата суммы и разности, а также формулу разности квадратов.