У місті Бірштонас поруч з костелом Святого Антонія Падуанського розташувався сакральний музей, побудований в 2000р. Музей заснований в колишньому будинку настоятеля і має характерний етнографічний стиль.

Особливий інтерес музей представляє для шанувальників релігійного мистецтва. У музеї представлена велика колекція сакрального мистецтва – текстиль, живопис, літургійна посуд, скульптура і народне мистецтво. Відвідувачі музею побачать дві меморіальні експозиції, які присвячені кардиналу Святої Римської церкви Винцентасу Сладкявичюсу і мученику архієпископу Теофилиюсу Матуленису. Про них відвідувачі зможуть подивитися фільми, а так само про візит до Литви Папи Римського.

Щомісяця в музеї проходять різні виставки та заходи: «Різдвяний піст-час сподівань», «Зустріч з Іконою», «Давайте разом фарбувати великодні яйця». Так само в музеї часто проходять культурні вечори – зустрічі, презентації книг, лекції тощо

В одній з кімнат будівлі музею сакрального після повернення із заслання в 1956 році жив Теофилиюс Матульоніс і в 1957 році в ніч на 25 грудня він присвятив таємно в єпископи кан. Винцентаса Сладкявичюса.

Особливою цінністю в художньої експозиції є Золота скарбниця. В ній представлена унікальна і цінна літургійна посуд з костьолів Кайшядорского єпископства. Відвідавши експозицію, присвячену історії церкви можна побачити єдину в Литві книгу про русифікації ХІХ і перше литовською мовою католицьке видання Нового Завіту. Вирізані з дерева скульптури і фігурки на релігійні теми знаходяться в залі народної творчості.