Находим Д1Е1:
Д1Е1 = 2*5*cos30° = 2*5*(√3/2) =5√3.
Отсюда высота Н призмы равна ВВ1 = 40/(5√3) = 8/√3.
Модуль вектора АО1 это длина этого отрезка.
АО1 = √(5²+(8/√3)²) = √(25+(64/3)) = √(139/3) ≈  6,806859.