Родился в семье хлопчатобумажного фабриканта и банкира Павла Михайловича Рябушинского и Александры Степановны Овсянниковой, дочери хлеботорговца-миллионера. В семье было девять сыновей и семь дочерей, трое детей умерли в детстве.
Род Рябушинских происходил от крестьянина-старообрядца Михаила Яковлевича Рябушинского из экономических (сохранявших личную свободу) крестьян Боровско-Пафнутьевского монастыря. Михаил был отдан в двенадцать лет в ученье по торговой части в Москву, в 1802 году записался в третью купеческую гильдию с капиталом в 1000 рублей. В 1850 году он уже владел несколькими текстильными мануфактурами в Москве и провинции. После смерти в 1858 году оставил своим детям около 2 миллионов рублей ассигнациями. Семья Рябушинских принадлежала к Рогожскому приходу старообрядческого вероисповедания.
В 1890 году Павел Рябушинский окончил среднее учебное заведение Московскую практическую академию коммерческих наук.
В 1892 году Павел Рябушинский купил особняк С.М. Третьякова, выстроенный архитектором А.С. Каминским на Гоголевском бульваре, 6, где и жил до 1917 года.
В 1893 году женился на дочери суконного фабриканта А.И. Бутиковой и в 1896 году у них родился сын Павел.
В 1899 году умер отец Павла Павловича. Состояние П.М. Рябушинского было поделено поровну между восемью сыновьями: каждый получил одинаковые паи в «Товариществе мануфактур П.М. Рябушинского с сыновьями» с капиталом в 5,7 миллионов рублей, текстильную фабрику, выпускавшую тканей на 3.7 миллионов рублей в год, в селе Заворово Вышневолоцкого уезда Тверской губернии, и 400 тысяч рублей наличными деньгами или ценными бумагами. Братья Рябушинские продолжили вести семейные дела вместе. Павел Рябушинский, как старший брат, стал главой семейного клана.
В 1902 году Рябушинские основали банкирский дом «Братья Рябушинские», впоследствии реорганизованный в Московский банк с капиталом 20 миллионов рублей в 1912 году. В 1917 году банк Рябушинских имел капитал в 25 миллионов рублей.
В 1903 – 1904 году было построено здание банкирского дома «Братья Рябушинские» на углу Старопанского переулка и Биржевой площади 1/2. Это было основное место работы братьев.
В 1905 году Павел Рябушинский впервые обратился к политике: после первой русской революции на Торгово-промышленном съезде он выступил за реорганизацию Думы в парламент. Съезд был закрыт властями и сторонники парламентского правления продолжили заседания в доме Павла Рябушинского.
С 1906 Павел Рябушинский был избран одним из старшин Московского биржевого комитета, в последующие годы председательствовал в разных комиссиях. В 1915 году он был избран председателем Комитета.
В 1907 году он начал издавать на свои средства газеты «Утро» и «Утро России», которая издавалась до 1917 года.
В 1913 году Павел Рябушинский заинтересовался научными разработками о радиоактивных материалах В.И. Вернадского, В.А. Обручева и В.Д. Соколова.
В 1914 году он организовал две научные экспедиции в Забайкалье и Среднюю Азию для поиска радиоактивных месторождений, но крупные залежи открыты не были.
В 1915 году Павел Рябушинский был в действующей армии, где устроил несколько передвижных лазаретов и был награжден орденами.
В 1916 году Павел Рябушинский заболел туберкулезом легких и переехал в Крым, где встретил революцию 1917 года.
В 1919 году Павел Рябушинский эмигрировал во Францию, где попытался возродить Всероссийский Торгово-промышленный союз («Протосоюз») для поддержки правительства генерала Врангеля.
Павел Рябушинский скончался от туберкулеза в 1924 году и был похоронен на кладбище Батиньоль в Париже.
