Грот был спроектирован архитектором Осипом Ивановичем Бове (1784-1834) во время его работы над созданием Кремлевских садов, названных Александровскими в 1856 году.

Грот был основной достопримечательностью Верхнего Александровского сада, открытого в 1821 году. В начале сентября 1820 года Комиссия для строений, организованная для восстановления города после пожара в ходе Отечественной войны 1812 года, рассмотрела проект архитектора Бове на постройку грота. Согласно этому проекту, грот должен был находиться около Кремлевской стены между Воскресенским и Троицким мостом. Комиссия утвердила проект, но с условием, что работа должна быть выполнена в течение 1 месяца. 18 октября того же года Бове представил в Комиссию рапорт о том, что грот построен. При этом строительство грота осуществлялось из казенных материалов, но рабочие и инструменты, принадлежали подольскому купцу Василию Стрельцову.

Бове расположил грот у Средней Арсенальной башни Кремля напротив Манежа. Грот представляет собой арку, в которую вписан антаблемент, поддерживаемый четырьмя колоннами дорического ордера с каннелированными стволами. Строгие ордерные формы контрастно сочетаются с нагромождением камней и обломков зданий, разрушенных в ходе войны и пожара. Грот является прекрасным памятником стиля ампир: строгая композиция дополняется декором с изображением военных доспехов, так называемой арматурой. Она вписана в метопы фриза.

Согласно путеводителю по Москве 1831 года, в саду «по самой середине к стороне стены сделано земляное возвышение в виде природной горы. На оной со вкусом сделанный павильон (где обыкновенно по воскресеньям играет полковая музыка), в самой горе сделан прекрасный грот в образе развалин; по сторонам грота видны разные обломки пьедесталей, колон и пр.: перемешанныя с огромные каменными ядрами, которые употреблялись в древности вместо чугунных».