Сын священника, протоиерея Троицкой церкви в Арзамасе, депутата Второй государственной Думы от Нижегородской губернии Ф. И. Владимирского.

В 1894—95 учился на медицинском факультете Томского, в 1895—1896 и 1898—1899 — Московского, в 1900—1901 — Гейдельбергского университетов, окончил в 1902 медицинский факультет Берлинского университета и в 1903 получил диплом Казанского университета.

С революционным движением и с марксизмом познакомился ещё в начале 1890-х в нижегородских марксистских кружках. C 1895, будучи студентом Московского университета, начал работать пропагандистом и организатором рабочих кружков. После арестов 1894 года и летних 1895 года почти всего руководящего состава «Рабочего союза» уцелевшие марксистские группы (Бонч-Бруевича, Величкиных, Колокольникова и др.) в конце 1895 года объединились вокруг марксистского кружка, руководимого М. Ф. Владимирским, они переименовали «Рабочий союз» в «Московский рабочий союз».

В 1896 за участие в создании Московского «Рабочего союза» арестован и выслан на родину. В 1898—1899 член Московского комитета РСДРП. Весной 1899 во время студенческих волнений снова был выслан из Москвы, а затем уехал в Швейцарию, где продолжил медицинское образование. Примкнул к группе «Освобождение труда» Плеханова. Сотрудничал в заграничной организации «Искры».

В 1903-05 земский врач в Нижнем Новгороде, работал в нижегородской организации РСДРП. После 2-го съезда РСДРП (1903) большевик. С осени 1905 — в Москве, член МК РСДРП, Московского Совета рабочих депутатов, активный участник Декабрьского вооруженного восстания в Москве.

В 1906 арестован, был выпущен под залог и, не дожидаясь суда, уехал во Францию. С 1907 в эмиграции, входил в парижскую группу большевиков, в Комитет заграничных организаций.

После Февральской революции 1917 вернулся (июль) в Петроград, направлен ЦК РСДРП(б) в Москву. С июля член Исполнительного бюро МК РСДРП(б). Назначен в состав «партийной пятёрки» по руководству октябрьским вооружённым восстанием.

• Участник Октябрьской революции 1917 года, член Московского ВРК, затем член президиума Моссовета.

С ноября 1917 по март 1918 возглавлял Совет районных дум Москвы (высший исполнительный орган города).

• В 1918—1921 — член Президиума ВЦИК. С 16 по 30 марта 1919 после смерти Я. М. Свердлова исполнял обязанности Председателя ВЦИК. Член Оргбюро ЦК (январь — март 1919). С апреля 1919 — заместитель наркома внутренних дел РСФСР.
• С 1922 года на Украине. В 1922—1924 заместитель Председателя СНК и председатель Госплана УССР. В 1924—1925 — секретарь ЦК КП(б) Украины. В 1925—1926 — председатель ЦКК КП(б)У и нарком РКИ Украины.
• В 1926—1927 заместитель председателя Госплана СССР. С 1927 — председатель Союза союзов сельскохозяйственной кооперации.
• В 1927 году на XV съезде ВКП(б) М. Ф. Владимирского избрали председателем Центральной ревизионной комиссии ВКП(б). На этом ответственном посту он оставался бессменно почти четверть века, до самого конца своей жизни.
• В 1930—1934 по совместительству народный комиссар здравоохранения РСФСР.
• С 1934 года полностью переходит на партийную работу. Сотрудник аппарата МК ВКП(б), ЦК ВКП(б).

После смерти в 1951 г. был кремирован, прах помещён в урне в Кремлёвской стене на Красной площади в Москве.