Раскладываем эти числа на множители:
864=2*2*2*2*2*3*3*3
875=5*5*5*7
У них нет ни одного общего множителя, что и требовалось для доказательства