Дважды Герой Советского Союза (17.11.1943, 06.04.1945). Советский военачальник, маршал бронетанковых войск (1945).
Родился в с. Малый Истороп Лебединского района Сумской области. Член КПСС с 1919 г. В армии с 1914 г. Участник 1-й мировой войны. С декабря 1917 г. в Красной гвардии, с 1919 г. в Красной Армии. Во время Гражданской войны комиссар полка и бригады в 1-й Конной армии, воевал против немецких оккупантов, петлюровцев, войск Деникина, Врангеля, буржуазной Польши. Окончил курсы усовершенствования высшего начсостава (1926 и 1930), Военную академию им. М.В. Фрунзе (1934). С 1926 г. командир эскадрона, командир и комиссар полка и кавалерийской бригады, помощник командира горнокавалерийской дивизии. С 1937 г. военный атташе в Польше и Китае, на преподавательской работе.
В годы Великой Отечественной войны с мая 1942 г. заместитель командующего, с июля 1942 г. командующий танковыми армиями на Брянском, Юго-Западном, Центральном, Воронежском, 1-м Белорусском и 1-м Украинском фронтах. Войска под его командованием успешно участвовали в Острогожско-Россошанской, Харьковской наступательной (1943) операциях, в битве под Курском, Киевской наступательной, Житомирско-Бердичевской, Проскуровско-Черновицкой, Львовско-Сандомирской, Нижне-Силезской, Верхне-Силезской, Берлинской и Пражской операциях.
За умелое руководство армией в битве под Курском и в Киевской операции, успешное форсирование Днепра и проявленное при этом мужество и героизм ему присвоено звание Героя Советского Союза. Второй медалью "Золотая Звезда" награждён за боевые отличия войск под его командованием на завершающем этапе войны и проявленный личный героизм.
С 1946 г. первый заместитель командующего, с 1947 г. командующий бронетанковыми и механизированными войсками Советской Армии. Депутат Верховного Совета СССР в 1946–48.
Скончался 28 августа 1948 г. Похоронен на Новодевичьем кладбище в Москве.
Именем П.С. Рыбалко названа улица в Могилёве.