В 1514 г. Василий III повелел возвести в Москве одиннадцать церквей, «а всем тем церквам был мастер Алевиз Фрязин». Новый каменный храм Святого Владимира, построенный Алевизом Фрязиным (Новым) на территории великокняжеской усадьбы, был освящён в 1516 г. В конце XV в. рядом с Владимирской церковью был основан Иоанновский монастырь; по его названию холм стали именовать Ивановской горкой.

Во второй половине XVII в. обветшавшую Владимирскую церковь значительно перестроили, в частности на средства семьи стольника Ивана Вердеревского, жившего неподалёку. На её месте к 1677 г. был выстроен квадратный в плане пятиглавый бесстолпный храм с одним рядом кокошников и двумя наружными крыльцами. Западный портал и оконные наличники в узорочном стиле выполнены из тёсаного кирпича, барабаны глав оформлены переплетёнными кирпичными «жгутами». Южный портал и плоские ниши с аркатурным завершением в оформлении алтарных апсид, возможно, воспроизводят формы алевизовского храма. Церковь Владимира в Старых Садах (в первоначальной транскрипции — в Старых садех) является в градостроительном отношении одним из важнейших ориентиров Ивановской горки.

В 1689 г. был освящён северный придел во имя страстотерпцев Бориса и Глеба с трапезной и колокольней (не сохранилась), служивший усыпальницей дворян Вердеревских; их надгробные плиты находятся на стенах придела. На освящении присутствовала царевна Софья Алексеевна.

В конце XVIII в. над трапезной была надстроена двухъярусная классицистическая колокольня. Три опоры колокольни опираются на стены трапезной, а четвёртая стоит на сводах — уникальный случай в истории отечественной архитектуры.

Церковь Владимира ещё несколько раз ремонтировали, устраняя повреждения от крупных московских пожаров: Троицкого пожара в мае 1737 г. и пожара во время Отечественной войны 1812 г. В XIX в. у храма были уничтожены кокошники и устроена простая четырёхскатная кровля.

Церковь Владимира была закрыта в 1933 г. В 1937 г. были разрушены пять глав и уничтожено внутреннее убранство. От полного уничтожения здание было спасено вмешательством органов государственной охраны памятников города Москвы. Храм был передан в ведение Государственной публичной Исторической библиотеки, разместившей здесь свои резервные фонды. В 1980 г. произошёл пожар, уничтоживший книги и сохранившиеся остатки росписей на стенах.

В 1980–1990-х гг. церковь была отреставрирована по проекту архитекторов Г.К. Игнатьева и Л.А. Шитовой (13-я мастерская «Моспроекта-2»). В ходе работ были восстановлены кокошники, срубленные в XIX в., и позакомарное покрытие основного объёма.

В 1990 г., после завершения реставрации внешней части здания, церковь была передана общине. В 1991 г., после длительного перерыва, в отреставрированном Владимирском храме состоялась первая литургия. В 1998 г. возобновились богослужения в приделе благоверных князей Бориса и Глеба.

В настоящее время при храме действуют воскресная школа, православная гимназия, детский сад, школа церковного пения, учебная столярная мастерская, благотворительное братство во имя равноапостольного князя Владимира и издательство.