Історико-краєзнавчий музей «Фортеця» розташовується в збережених будівлях Кисловодська фортеці, яка є пам'яткою історії та архітектури, і з якої почалася життя курорту. Це єдина російська фортеця, що збереглася на Північному Кавказі.

Перше земляне укріплення на місці фортеці з'явилося в 1807 р., а через недовгий час тут була зведена невелика кам'яна фортеця. Більшість фортець цього краю після Кавказьких воєн були або зруйновані, або розібрані. Залишилася тільки ця, і то не повністю. Простояла фортеця 60 років. До сьогоднішніх днів від неї збереглися ворота, кутова башта, ділянка кріпосної стіни з бійницями і казарми. Після революційних часів спорудження належало санаторію «Фортеця» - одному з перших радянських санаторіїв.

Історико-краєзнавчий музей «Фортеця» було засновано 9 травня 1965 року в статусі народного. У 1971 р. він був оголошений філією Ставропольського краєзнавчого музею. Самостійним муніципальним музеєм він став у 1998 р. В 2005 р. музей перейшов в крайову власність. Сьогодні у фондах музею налічується понад 60 тис. експонатів. Гордістю музею є його колекції: археологічна, етнографічна колекція кисловодского порцеляни.

Експозиція музею розповідає про окремих історичних етапах життя народів Північного Кавказу, роль козацтва у становленні міста, розвитку Кисловодська як курорту, пошуку та вивчення мінеральних джерел. Величезний розділ присвячений місту Кисловодску як найбільшої госпітальної бази під час Великої Вітчизняної війни. Також у музеї діє експозиція під відкритим небом, так званий лапідарій. Одним з відділів музею є відділ історії космонавтики, присвячений радянському вченому і винахідникові Ф. А. Цандеру.

Перед кисловодским історико-краєзнавчим музеєм «Фортеця» можна побачити пам'ятний знак, який являє собою кам'яну брилу доломіту, встановлену на честь заснування курортного міста Кисловодськ 25 (13) червня 1803 р.