Название переулка происходит от Златоустовского монастыря, известного по летописям с начала XV века. Это была одна из старейших обителей Москвы, основанная в честь Иоанна Златоуста. Монастырь занимал почти весь квартал между Мясницкой и Покровкой. В 1742 году обитель принимала высокую гостью — Елизавету Петровну. Под впечатлением от визита императрица велела заложить храм во имя Захарии и Елисаветы, оплатив его строительство. Быть похороненным в Златоустовском монастыре считалось честью для великих мужей России. Под сенью обители нашли покой те, кто закладывал основы отечественного флота и армии: адмиралы Апраксин и Сенявин, генерал-аншеф Румянцев. В 1933 году обитель была снесена. Сегодня ее дух можно уловить в названии Златоустинских переулков и в чудом уцелевшем корпусе келий, ставших последним материальным напоминанием о святыне. С 1923 по 1993 гг. переулок назывался Большим Комсомольским. Новое имя он получил из-за близости к Центральному комитету комсомола, который располагался неподалеку, на углу Маросейки и Лубянского проезда.
Один из самых солидных, в прямом смысле «весомых» особняков в Большом Златоустинском — дом 6 — объект культурного наследия регионального значения. Когда-то здесь располагалась «Большая Сибирская гостиница» Н. Д. Стахеева. Здание в стиле эклектики с элементами классицизма поражает своей массивностью. Оно протянулось почти на пол-улицы, напоминая неприступную крепость. В свое время домом владел «золотой меценат», один из богатейших людей России — Николай Стахеев, племянник создателя «Утра в сосновом лесу» Ивана Шишкина. Гостиница «Большая Сибирская» была одной из самых комфортабельных в Первопрестольной. Автором проекта стал архитектор Михаил Бугровский, чье творение весьма органично вписалось в деловой ритм района. В 1926 году здесь жил автор «Котлована» и «Чевенгура» Андрей Платонов. В 1922-1927 гг. он, помимо литературного труда, занимался инженерной деятельностью, работал мелиоратором, руководил строительством электростанций. После переезда в Москву писатель вместе с женой Марией и сыном Платоном некоторое время занимал комнату в Центральном доме специалистов сельского и лесного хозяйства.
На пересечении Большого и Малого Златоустинских переулков располагается усадьба именитого зодчего Матвея Казакова. Здесь он жил и работал последние три десятилетия. Дом великого архитектора стал символом целой эпохи, которую называют «казаковской Москвой». В отличие от пышных дворцов, которые Казаков создавал для дворян (Сенат в Кремле, усадьба Царицыно), его собственный дом стал воплощением скромности и строгости. Здесь Казаков организовал частную школу, где обучал своих сыновей и будущих звезд, в том числе Осипа Бове и Ивана Еготова. По своей архитектурной логике здание в Большом Златоустинском схоже с Московским университетом — другим знаковым творением Казакова. Здесь также велась работа над знаменитыми альбомами, в которых Казаков зафиксировал облик Москвы до пожара 1812 года.
На углу с Мясницкой улицей расположено еще одно уникальное здание, некогда принадлежавшее «королю фарфора» Матвею Кузнецову. Дом фарфора – широкоплечий замок в стиле неоклассицизма, увенчанный масками покровителя торговли Меркурия, – долгие годы был центром притяжения дам и господ, знающих толк в изысканной посуде. Здание, спроектированное в конце XIX века выдающимся архитектором Фёдором Шехтелем, задает бравурный тон всему переулку. В свое время здесь располагался главный магазин фарфорового гиганта. Огромные окна-витрины на первых этажах были в то время настоящим технологическим прорывом. Здание — объект культурного значения федерального значения — выглядит монументально и мощно, но благодаря незаурядному таланту Шехтеля визуально не перегружает пространство.
На территории, где на протяжении пяти столетий располагался Златоустовский монастырь, в 1932–1934 гг. был возведен ведомственный дом. Фасад дома, спроектированного маститыми архитекторами А. Лангманом и Л. Чериковером, выдержан в монохромных тонах, подчеркивающих изначальную закрытость объекта. В тени этого конструктивистского гиганта находится еще один примечательный дом: 3А. Его архитектура напрочь лишена пафоса. Это жилое здание служит примером того, как в Москве плотно застраивался каждый свободный островок земли. Для народного артиста России Александра Клюквина этот адрес стал по-настоящему родным. Еще ребенком он проводил здесь много времени в гостях у бабушки, и, возможно, неспешные прогулки по Большому Златоустинскому и стали тем самым «капитанским мостиком» к будущему призванию ведущего артиста Малого театра.
