У Ильинской башни рубленного Большого острога также с древних времен стояла часовня. После разбора крепостных деревянных сооружений в начале XVIII века въезды в Нижний Новгород по ночам перегораживались особыми переносными рогатками-решетками - отсюда уточняющее название часовни - на Ильинской улице (у решетки).

Сначала она была деревянной. Время от времени поновлялась на средства рядом живших ямщиков и промышленников прядиленных заводов, тянувшихся от вала бывшего Большого острога (ныне Малая Покровская улица) до современной площади Лядова. В 1769 году прядильщики вместо старой срубили новую часовню. Но клир Вознесенской церкви потребовал отдать часовню в его ведение, чтобы ее не могли использовать старообрядцы для распространения своего учения. Такой указ был дан Нижегородской консисторией 10 ноября 1769 года. Отныне клир Вознесенской церкви не только получал с часовни небольшой доход, но и проявлял заботу о состоянии икон и утвари, временами проводил в ней службы.

После возведения на Ильинской улице новой Вознесенской церкви первый нижегородский епархиальный архитектор А.К.Никитин спроектировал и возвел вместо деревянной каменную шатровую часовню, архитектура которой навеяна древнерусскими образцами. В силу того, что место уже оказалось внутри городской жилой застройки, часовню пристроили прямо к стене рядом стоящего деревянного трехоконного дома начала XIX века. Часовня остается не только интересным архитектурным памятником, но и отмечает историческую границу древнего Нижнего Новгорода, линию его внешних крепостных сооружений, место расположения бывших Ямской слободы и прядильных заводов.