
Николай Григорьевич родился в небогатой купеческой семье, заниматься музыкой начал в 4 года под руководством матери. Вместе с братом, Антоном Рубинштейном, с 7 лет выступал с фортепьянными концертами в России и за рубежом. Юные музыканты получали самые лестные отзывы от известных композиторов, в том числе от Ф.Листа и Ф.Шопена.
Пройдя в 1844–1846 гг. курс обучения у лучших европейских педагогов музыки того времени и завершив музыкальное образование в Москве, Рубинштейн уже с 14 лет начал давать частные уроки игры на фортепиано.
Впрочем, таланты Николая Григорьевича не ограничивались музыкой. Освоив за один год полный курс гимназии, в 1851 году он поступил на юридический факультет Московского университета, окончил его в чине губернского секретаря (12-й класс) и 2 года служил в канцелярии Московского гражданского губернатора.
В 1857 году Николай Рубинштейн возвращается к музыке: бросает службу и становится учителем музыки Московского сиротского института императора Николая I, а еще через два года возобновляет концертную деятельность.
В 1860 году Рубинштейн назначен руководителем московского отделения Русского Музыкального Общества, а в 1866 году занял пост директора Московской консерватории. Прекрасные способности управленца и организатора помогли Рубинштейну превратить консерваторию в центр музыкального образования и науки. Благодаря работе Николая Григорьевича, Московская консерватория получила право преподавать по собственным учебным программам, в ней была открыта единственная в России кафедра истории древне-русского церковного пения, а в преподавательский состав консерватории вошли лучшие композиторы и музыканты того периода.
Скончался Н.Г. Рубинштейн в 1881 году в Париже, похоронен в Москве на Новодевичьем кладбище.