Родился 8 июня 1858 г. Военное образование получил в Полоцком кадетском корпусе, Михайловском артиллерийском училище, после окончания кторого в 1877 г. попал на русско-турецкую войну. Принимал участие в боях на Шипке в 1878 г. Служил в 3-й Гвардейской, Гренадерской артиллерийских бригадах. В 1883 г. с отличием окончил Николаевскую академию Генерального штаба. Занимал посты: старшего адьютанта штаба 5-й пехотной дивизии (Харьковский военный округ); помошника старшего адьютанта штаба Приамурского военного округа; начальника отдела штаба Керченского края, 32-й и 5-й пехотных дивизий; командира 18-го Вологодского пехотного полка. В 1904 г. произведен в чин генерал-майора. Командовал 1-й бригадой 27-й пехотной дивизии, был начальником штаба 3-го армейского корпуса, комендантом Усть-Двинской крепостью, начальником 19-й пехотной дивизией. В 1908 г. произведен в чин генерал-лейтенанта. Во время первой мировой войны - командир 23-го армейского корпуса. В декабре 1914 г. произведен в чин генерала от инфантерии. С августа 1915 г. по февраль 1918 г. командовал 4-й Армией на Западном и Румынском фронтах.

В мае 1918 г. гетьман Украины П.Скоропадский пригласил генерала А.Рагозу занять пост военного министра, присвоев ему чин генерал-бунчужного (соответствовал полному генералу). В ноябре того же года после смещения со своей должности выехал в Одессу. В апреле 1919 г. за отказ перейти на службу в Красную Армию генерал А.Ф.Рагоза был расстрелян.