Родился 23 ноября 1898 г. в Одессе, в семье рабочего. Отца не помнил. Мать вторично вышла замуж.
Учился в церковно-приходской школе, затем батрачил у помещика в пригороде. С началом Первой мировой войны пристал к одной из воинских частей, добровольцем ушел на фронт. С 1914 г. рядовым участвовал в боях. За героизм был награжден Георгиевским крестом 4-й степени. В феврале 1916 г. в составе русского экспедиционного корпуса был отправлен во Францию. Участвовал в боях в качестве пулеметчика. В 1918 г. корпус возвратился в Россию через Владивосток, был включен в состав Колчаковской армии. Но солдаты отказались воевать на стороне Колчака, ночью покинули позиции и перешли на сторону красных.

В 1919 г. Малиновский добровольно вступил в ряды Красной армии. В Гражданскую войну участвовал в боях против белогвардейцев на Восточном фронте в составе 27-й стрелковой дивизии в качестве инструктора пулеметного дела. В декабре 1920 г. окончил школу младшего комсостава, командовал пулеметным взводом, был начальником пулеметной команды, помощником командира и командиром батальона.

После Гражданской войны продолжал служить в Красной армии. В 1927 г. направлен на учебу в академию имени Фрунзе, которую окончил в 1930 г., получил назначение на должность начальника штаба полка в 3-й кавалерийский корпус 10-й кавалерийской дивизии. Затем служил в штабах Северо-Кавказского и Белорусского военных округов. С 1935 г. занимал должность начальника штаба 3-го кавалерийского корпуса.

В 1937 г. уехал добровольцем в республиканскую Испанию. За участие в боях на стороне республиканского правительства Испании был награжден орденом Ленина и орденом Красного Знамени. По возвращении из Испании, с 1939 г., на преподавательской работе в академии имени Фрунзе. В марте 1941 г. генерал-майор Малиновский назначается на должность командира 48-го стрелкового корпуса в Одесский военный округ. С этим корпусом Малиновский вступил в войну с фашистской Германией в составе 9-й армии.

Первое сражение, в котором участвовал корпус, произошло на реке Прут, где румынские войска пытались форсировать реку, но были отбиты. В августе 1941 г. Малиновский занимает должность командующего 6-й армией. Командовавший этой армией генерал-майор Музыченко был ранен и попал в плен к немцам.

В декабре 1941 г. генерал-лейтенант Малиновский назначается командующим Южным фронтом, которым он командует по июль 1942 г. Когда Южный фронт был ликвидирован, Малиновский получил должность командующего 66-й армией, которая сражалась с противником севернее Сталинграда.

В октябре 1942 г. Малиновский назначается на должность командующего Воронежским фронтом, но в ноябре 1942 г. его отзывают с фронта и назначают командующим вновь сформированной 2-й гвардейской армией. В декабре 1942 г. эта армия во взаимодействии с 5-й Ударной армией и 51-й армией разгромила немецко-фашистскую группировку войск группы армий "Дон" под командованием фельдмаршала Манштейна, которая пыталась деблокировать 6-ю немецкую армию Паулюса, окруженную в Сталинграде.

В феврале 1943 г. Малиновского вновь назначают командующим восстановленным к этому периоду войны Южным фронтом. С марта 1943 г. его назначают командующим Юго-Западным фронтом, который 20 октября 1943 г. был переименован в 3-й Украинский фронт. Соединения фронта сражались при освобождении Донбасса и Правобережной Украины. Под руководством Малиновского была подготовлена и проведена Запорожская фронтовая стратегическая операция, в результате которой войска фронта внезапно ночью штурмом овладели г. Запорожье, что способствовало разгрому Мелитопольской группы немецко-фашистских войск. Немецкие войска были изолированы в Крыму.

В последующем войска фронта во взаимодействии с войсками 2-го Украинского фронта расширили плацдарм в районе Днепровской излучины, который способствовал проведению Криворожской стратегической операции.

Весной 1944 г. войска 3-го Украинского фронта провели Березнеговато-Снигиревскую наступательную операцию, Одесскую стратегическую операцию, войска фронта форсировали реку Южный Буг, освободили Николаев и Одессу.

В мае 1944 г., в связи с гибелью командующего 1-м Украинским фронтом генерала Ватутина, на эту должность переводился Конев, а на должность командующего 2-м Украинским фронтом назначается генерал армии Малиновский. В августе 1944 г. фронт под командованием Малиновского провел Ясско-Кишиневскую стратегическую операцию. В результате этой операции была разгромлена немецкая группа армий "Южная Украина", освобождена полностью Молдавия, выведена из войны против СССР Румыния, которая объявила войну Германии. Операция отличалась решительным выполнением стратегической задачи, быстротечностью, завершилась полным разгромом противостоящего противника.

В октябре 1944 г. войска 2-го Украинского фронта под руководством маршала Советского Союза Малиновского провели Дебреценскую наступательную операцию, которая завершилась разгромом немецко-фашистской группы армий "Юг", немцы были изгнаны из Трансильвании, а войска фронта оказали помощь 4-му Украинскому фронту в преодолении Карпатских гор и освобождении Западной Украины.

Следующим этапом стало совместное проведение с 3-м Украинским фронтом Будапештской операции, которая закончилась окружением города Будапешта и разгромом окруженной группировки немецко-фашистских войск. На завершающем этапе Великой Отечественной войны войска фронта освобождали Чехословакию и Австрию, с марта по апрель была проведена Венгерская стратегическая операция. Фронт закончил войну в Праге.

После окончания войны маршал Малиновский был назначен командующим войсками Забайкальского фронта на Дальнем Востоке. Войска фронта наносили главный удар в Маньчжурской стратегической операции через пустыню Гоби и Большой Хинганский хребет. В результате этой блестяще проведенной операции была разгромлена Квантунская японская армия. Боевые действия отличались умелым выбором направления, смелостью и решительностью, применением танковых соединений в первом эшелоне наступления фронта. За высокое полководческое искусство, мужество и отвагу маршалу Советского Союза Малиновскому было присвоено звание Героя Советского Союза.

После окончания Второй мировой войны, в сентябре 1945 г., Малиновский назначается командующим войсками Забайкало-Амурского военного округа. В 1947 г. его назначают главнокомандующим войсками Дальнего Востока. На этой должности он работает до 1953 г. После смерти Сталина и переформирования военных округов Малиновский назначается командующим Дальневосточным военным округом. С марта 1956 г. он занимает должность первого заместителя министра обороны СССР и главнокомандующего Сухопутными войсками.

В октябре 1957 г. Малиновский назначается на должность министра обороны СССР. На этой должности он остается до конца жизни. В 1958 г. Малиновскому вторично присваивают звание Героя Советского Союза.

Малиновский награжден пятью орденами Ленина, тремя орденами Красного Знамени, орденом "Победа", двумя орденами Суворова 1-й степени, орденом Кутузова 1-й степени, многими медалями и иностранными орденами.

Скончался Малиновский 31 марта 1967 г. Похоронен на Красной площади в Москве. Его имя присвоено бронетанковой академии.