22 июня 2016 года, после традиционного крестного хода улицами Херсона с чудотворной Касперовской иконой Пресвятой Богородицы, Высокопреосвященнейший Иоанн, митрополит Херсонский и Таврический совершил молебный чин "призывания помощи, благодати и дара Пресвятаго Духа в начале всякого доброго дела" перед началом работ по восстановлению храма в честь Касперовской иконы Божией Матери при архиерейском доме. Вместе с Его Высокопреосвященством молились клирики и верующие Херсонской епархии.
Храм в честь Касперовской иконы Божией Матери является домовой церковью при Архиерейском доме. Само здание Архиерейского дома было построено в 1820 году и принадлежало корабельному мастеру Александру Катасанову. После ликвидации в Херсоне Черноморского адмиралтейства здание использовалось как губернский архив, а в середине ХІХ века, попечением святителя Иннокентия Херсонского, было передано Православной Церкви. В 1874 году началась постройка домового храма, и 1 октября того же года преосвященным епископом Нафанаилом (Соборовым) церковь была освящена во имя Касперовской иконы Божией Матери, вмч. Димитрия Солунского и мц. Александры. В конце ХІХ века церковь была расширена и украшена хрустальным одноярусным иконостасом. В 1924 году храм был закрыт, а интерьер церкви полностью разрушен. Затем здесь открылся противотуберкулезный санаторий. Некоторое время после войны здание занимала школа мореходного обучения, а потом вновь устроен санаторий «Днепр». Храм в этот период использовался как актовый зал. В ноябре 1992 года участок с Архиерейским домом и церковью был передан в собственность Украинской Православной Церкви и теперь является подворьем правящего архиерея Херсонской епархии.