Засновники колегії — землевласник Григорій Галаган і його дружина Катерина (з роду Кочубеїв). Після смерті їхнього єдиного сина Павла 1869 року Галаган продав свій будинок на Хрещатику, купив садибу на розі Кадетської й Олексіївської і доручив Олександру Шіле пристосувати її під навчальний заклад. 1 жовтня 1871 року колегія відкрилася для юнаків від 16 років; близько 40 відсотків навчалися безплатно. Мали обсерваторію з телескопом, фізичну лабораторію, органний клас і бібліотеку з рідкісними рукописами.
У колегії викладали Павло Житецький, Микола Мурашко, Микола Пимоненко, Володимир Науменко, директором був поет Інокентій Анненський. Серед випускників — Агатангел Кримський, Микола Зеров, Михайло Драй-Хмара, Павло Филипович, Олександр Богомолець, Андрій Лівицький. 1881 року тут, попри заборону, поставили другу дію «Наталки Полтавки». У лютому 1885 року в квартирі викладача Є. Трегубова в будинку № 9-а зупинявся Іван Франко; 4 травня 1886 року в домовій церкві він повінчався з Ольгою Хоружинською. У 1917–1918 роках у навчальному корпусі працювало Генеральне секретарство військових справ, яке до грудня 1917 очолював Симон Петлюра.