Строительство церкви Святого Праведного Филарета Милостивого, расположенной на территории Ермаковской богадельни за Трёхгорной заставой, было завершено в 1889 году. Храм был освящён 24 ноября того же года. В комплексе также находилась церковь Успения Праведной Анны, освящённая в июне 1893 года. Церковь Филарета Милостивого являлась верхней церковью, а храм Успения Праведной Анны — нижней.
Возведение храмов было инициировано и профинансировано ситцевым фабрикантом Фролом Яковлевичем Ермаковым, известным своей благотворительной деятельностью.
В конце XVIII века на этом месте находилась усадьба штабс-капитана П. Н. Дмитрова, позже перешедшая во владение князя А. Н. Вяземского, но вскоре приобретённая купцом Яковом Ермаковым. Его сын, меценат Фрол Яковлевич, продолжил дело отца, превратив семейное текстильное предприятие в одно из крупнейших в Москве. Около 1880 г. Ермаков закрыл фабрику и посвятил себя благотворительности. На его миллионы в Москве устроили две богадельни для крестьян православного вероисповедания. Первое отделение (Мариинское) на 500 человек находилось за Трехгорной заставой и было перестроено из бывшей фабрики, второе (Александровское) на 520 человек — в Сокольниках. На месте бывшего производства за Трехгорной заставой появилась богадельня на 500 человек с церковью - здание Г-образной формы, с колокольней и алтарной апсидой.
В 1922 году часть комплекса была снесена, и храм оказался под угрозой исчезновения. Однако благодаря уникальному сочетанию архитектурных стилей и значимости здания как исторического памятника, церковь Филарета Милостивого была сохранена. В 1990-х годах началась масштабная реставрация храма, инициированная Патриархом Московским и всея Руси Алексием II.
В ходе реставрации был воссоздан оригинальный объёмно-пространственный облик храма, включающий двусветный зал, разделённый тремя массивными арками, а также колокольню, изначально служившую главным входом в храм. Реставраторам удалось восстановить не только архитектурные формы, но и атмосферу той эпохи, когда здание служило центром благотворительной деятельности.
В 2012 году объект стал лауреатом конкурса Правительства Москвы на лучший проект в области сохранения и популяризации объектов культурного наследия «Московская реставрация».
