Походная при полку церковь существовала со времени сформирования полка. Церковь сопутствовала полку в походах в Отечественную войну 1812 г. и в русско-турецкую войну.
Полковая церковь с 1904 г. помещалась в столовой эскадронов, расположенной на окраине г. Ковно.
Вмещала до 200 человек. Для Богослужения здание это неудобное, почему и предположено было при постройке манежа устроить совместно и полковую церковь. По штату при церкви был положен один священник.