Улица в центре Москвы была известна еще с 1920-х годов, но название она получила лишь в 1957 году – в честь генерал-лейтенанта Ефремова Михаила Георгиевича, героя Великой Отечественной войны. 

На рубеже 1941 и 1942 годов, в решающие месяцы битвы за Москву, 33-я армия под командованием Ефремова успешно отразила атаки врага на наро-фоминском направлении. Позднее она была отправлена взять Вязьму, однако попала в окружение. Прорываясь из него, Ефремов получил серьезные ранения, и чтобы избежать плена, застрелился. Своих бойцов он не бросил, даже когда Ставка прислала за ним самолет.