Історичний музей міста Відня існує з 1887 року. Аж до 1959 року музей розміщувався в будівлі віденської Ратуші. Проте, розмови по створенню окремої будівлі для музею велися ще з початку 20 століття, багато архітектори представляли свої плани, з яких особливо цікавим було пропозицію Отто Вагнера. Історичні події, а конкретно дві важкі війни внесли свої корективи – будівля музею було відкладено на кілька десятиліть.

У 1953 році міська рада Відня ухвалив резолюцію в честь 80-річчя президента республіки і колишнього мера Відня Теодора Кернера, пообіцявши перетворити давню ідею про будівництво музею в реальність. Був організований конкурс, до участі в якому були запрошені 13 архітекторів, таких як Клеменс Хольцмейстер, Еріх Больтенштерн і Карл Шванцер. До участі в конкурсі допускалися всі бажаючі учасники. Проекти оцінювалися журі на чолі з головою Францем Шустером і директором відділу архітектури Францем Глюком. Всього в конкурсі взяли участь 80 конкурсантів і представили в цілому 96 проектів. Контракт на проектування будівлі в стилі модерн, а також на дизайн-проект внутрішніх приміщень музею був підписаний з Освальдом Хаертлом, який, як не дивно, на конкурсі посів лише четверте місце.

Музей був відкритий 23 квітня 1959 року. У 1985 році Роберт Вайссенбергер представив виставку «Сон і реальність», яку відвідали понад 600000 чоловік, зробили виставку однієї з найуспішніших за всю історію у Відні.

У 2003 році під керівництвом Вольфганга Коса кілька музеїв Відня були об'єднані, а Історичний музей було перейменовано у Віденський музей Карлсплатц.

У музеї можна побачити роботи Шиле, Кокошки, Лооса. На першому поверсі музею представлені вітражі Собору Святого Стефана, які дивом вціліли під час пожежі 1945 року, а на другому серед інших експонатів знаходяться речі часів турецьких облог, серед яких фляги, тюрбан і цікавий турецький план Вени.

Музей має як постійну експозицію, так і проводить тематичні виставки.