После указа Александра I от 1824 г. о передаче выгоревшего корпуса присутственных мест под размещение Нижегородского 4-го Карабинерного полка указывалось создать в кремле и манеж - крытый зал для верховой езды. Он спроектирован губернским архитектором И.Е.Ефимовым в одну линию с домом бывшего ассигнационного банка, ближе к тайницкой башне. Представлял собой обширное здание без внутренних опор под пологой двухскатной кровлей, с арочными въездами с торцов. По длинным сторонам корпуса выполнено по 11 заглубленных в кладку высоких окон с циркульными верхами. Образцом архитектурного решения послужил Московский манеж (1817 - 1825 гг., инженер А.А.Бетанкур).
По завершении строительства в манеже выезжали лошадей гарнизона, а также лошадей нижегородских дворян. Здание превратилось в своеобразный клуб верховой езды.