Каплиця, подарована в 16 столітті єпископом Іоанном, була присвячена святій Марії Магдалині, а пізніше отримала назву Єпископської каплиці, оскільки крипта під нею слугувала місцем останнього спочинку єпископів Вільнюської капітули. Сьогодні Святе Причастя зберігається у дарохранильниці на вівтарі цієї каплиці. Над дарохранильницею знаходиться картина під назвою "Христос - наша добра надія". Ця картина, написана в Іспанії в 1873 році (автор Гонсала Нуньєс), говорить про милосердя Господнє. На ній зображений Христос, який викуповує в'язня в кайданах.