Раньше она называлась церковь Св. Николая. После 1-ой мировой войны была переделана в костел и стала костелом Литовской армии (по воскресеньям проводились службы для военных, по будням - для горожан). После 2-ой мировой войны костел был закрыт. В нем размещался склад. Костел вновь заработал в 1990 году. Теперь он называется Костел Св. Винсента де Поля (Šv. Vincento Paulie)

Походная (при полку) церковь существует с начала XIX столетия. Церковь эта сопутствовала полку в Отечественную воину 1812 года.

Полковая церковь своего церковного здания не имеет, а пользуется церковью, сооруженной в 1901 году 111-м пехотным Донским полком и расположенной в г. Мариамполе на углу Варшавской и Кальварийской улиц.

Здание церкви - каменное, сооружено старанием командира Донского полка полковником Бессоновым на средства, пожертвованные воинскими чинами разных полков России, и 7000 рублей, полученных из Комиссии по постройке военных церквей, а всего в сумме 25.000 рублей. Освящена 13 августа 1901 года. Над входом в церковь, на фронтоне, надпись: "В память Царя Миротворца Александра III". Вмещает до 150 человек. В походной церкви Елисаветградского полка имеется много старинной церковной утвари конца XVIII века.

По штату при церкви положен: один священник. Квартира священнику - в офицерском флигеле.

Г.А. Цитович "Храмы армии и флота". Пятигорск, 1913

Никольская церковь в Мариямполе (уездный город Сувалкской губернии Мариамполь) была построена в 1888-1896 гг. на участке, приобретенном военным министерством, для нужд расположенного рядом военного гарнизона. Внутренняя отделка была закончена в 1901 г., после кончины императора Александра III, и храм стал памятником Царю-миротворцу.

Трехчастная церковь, ранее завершенная декоративным пятиглавием и шатровой колокольней, сохраняет композицию, характерную для образцовых проектов К.А. Тона. Однако сочетание кладки из красного кирпича и деталей оформления портала, карнизов, оконных наличников из белого кирпича (кресты, кронштейны, сухарики, дентикулы, арочные элементы), свойственны «московско-ярославскому стилю» царствования Александра III. Во всю длину боковых фасадов к ним пристроены прямоугольные в плане ризалиты, боковые пристройки имеются также к большой, трапециевидной в плане, апсиде.

В 1919 г. храм с приходским домом конфискованы в пользу католической церкви. Были утрачены боковые главы и шатер, который перестроили с иными, «готическими» пропорциями. В 1923 г. архиепископом Елевферием была предпринята безуспешная попытка возвращения церковного здания.

Прот. Александр Берташ