Родился в Минске в 1892 году. Он закончил Миланскую Академию Художеств в 1914 году, а диплом инженера получил в Рижском Политехникуме в Москве. В 1921 году он вернулся в Москву из Крыма, где оставался все время, пока шла Гражданская война. В 1923 году он приступил к преподаванию в ВХУТЕМАСе.
В 1924 году написал книгу «Стиль и эпоха». А в 1925 стал одним из соучредителей и главным редактором журнала «Современная Архитектура» и Объединения современных архитекторов (ОСА).
В 1920-е Гинзбург создает множество проектов, обычно конкурсных и нереализованных: Дом текстиля, крытый рынок в Москве, здание Оргметалла. Из них построено только здание Дворца Правосудия в Алма-Ате.
Однако главным интересом архитектора было жилье. В 1926-1927 он строит на Малой Бронной жилой дом Госстраха, а самая известная постройка – жилой Дом Наркомата финансов РСФСР, выполненный вместе И. Милинисом и инженером С. Прохоровым (1929-1930). В поисках экономичного удобного жилья, вместе с другими архитекторами-конструктивистами Гинзбург разрабатывает типовые квартиры-ячейки. С их использованием было построено 6 домов (в Москве, Саратове и Свердловске). Дом Наркомфина - самый успешный и знаменитый пример их реализации, был высоко оценен Ле Корбюзье и повлиял на его «Жилую единицу».
В начале 30-х Гинзбург и его группа сфокусировали свое внимание на программах социального расселения и регионального планирования. Свои теоретические исследования он продолжил в книге «Жилище», опубликованной в 1934 г. . Два санатория, спроектированных архитектором – в Кисловодске и в Крыму, были завершены уже после его смерти.
Моисей Яковлевич Гинзбург умер в Москве в 1946 году.
