Родился в Москве на Садовой улице, в доме, который построил его отец. Сын московского архитектора Михаила Доримедонтовича Быковского и Эмилии Львовны, урожденной Минелли. Через три дня после рождения Константина Эмилия Львовна умерла.
В 1859 году поступил в Московское училище живописи, ваяния и зодчества и в том же году перешел в Академию художеств в Санкт-Петербурге.
С 1867 года помощник архитектора Н.Л. Бенуа в Технико-строительном комитете при Министерстве внутренних дел в Петербурге. В том же году стал членом-учредителем Московского архитектурного общества. Со следующего года работал в Москве помощником у своего отца. С 1874 года служил участковым архитектором Мясницкой части Московской городской управы. С 1883 года занимал должность архитектора Московского университета.
С 1884 по 1895 год занимался разработкой проекта и постройкой новых клинических зданий на Девичьем поле, для чего путешествовал за границей, изучая архитектуру больниц. Результатом стал продуманный и логически завершенный ансамбль Клинического городка Московского университета на улицах Б. Пироговка, Россолимо, Еланского и др., осуществляющий практику и поныне. Архитектором были учтены как необходимые функциональные факторы, так и взаимосвязь всех существующих построек, имеющих свой смысловой центр.
С 1896 по 1906 год занимался проектированием и строительством зданий для Московского университета на улицах Моховая и Большая Никитская, в том числе Зоологического музея.
Много занимался реставрацией храмов: Успенского собора в Московском Кремле, церкви Флора и Лавра на Мясницкой улице (не сохранилась) и др.
В 1894 году организовал первый Всероссийский съезд русских художников и любителей художеств.
Преподавал в Московском училище живописи, ваяния и зодчества с небольшими перерывами до конца жизни. Также длительное время преподавал историю искусств на Высших женских курсах профессора Герье, в Училище изящных искусств А.О. Гунста, в Строгановском училище.
Незадолго до смерти Быковский занимался изучением организации образования в художественных школах, для чего вновь отправился за границу для знакомства с художественными школами Европы.
Действительный член Московского Археологического общества, состоял в его Комиссии по сохранению древних памятников. Действительный член Академии художеств и член ее Совета. В 1893-1902 годах был председателем Московского общества любителей художеств.
С 1868 года женат на Марии Иосафатовне Велямович. Имел дочерей Евгению, Эмилию и сына Анатолия.
Умер в Москве. Погребен на Ваганьковском кладбище.
