Музей історії Москви був заснований в 1896 році і називався Музеєм московського міського господарства. Ініціатором створення музею була міська Дума. Основу зібрання склали експонати павільйону Москви на Всеросійській художньо-промисловій ярмарку в Нижньому Новгороді, що проходила в 1896 році. Під музейну експозицію була віддана одна з Крестовським водонапірних башт.

З 1920 року музей став носити назву «Московський комунальний музей», а в 1921 році був переміщений в Сухаревскую вежу. У тридцяті роки основною темою експозиції музею був Генплан реконструкції Москви 1935-1947 років. У 1935 році башта була знесена, і музей перебрався в храм Іоанна Богослова під в'язом на Новій площі.

У 1947 році вперше експозицію музею збудували у відповідності з хронологією подій. У такому вигляді експозиція проіснувала до 1970 року. Свою теперішню назву «Музей історії міста Москви» музей носить з 1986 року. З 2006 року музей займає відомий архітектурний комплекс «Провіантські склади» на Зубовском бульварі. У 2008 році музей отримав статус об'єднання.

Музейне об'єднання «Музей Москви» – це комплекс музеїв. У нього входять: музей археології Москви, музей «Англійське обійстя», Музей російської гармоніки А. Мірека, музей-садиба Голіциних «Влахернское – Кузьминки», музей історії «Лефортово», музей Храму Христа Спасителя і музей Гіляровського.

Фонди музею налічують близько мільйона одиниць зберігання. У зборах музею - найбагатші археологічні колекції, велика колекція образотворчих матеріалів, серед яких ряд картин Васнецова «Стара Москва», картини Маковського, Айвазовського, Сурікова, Полєнова, Пастернака, Фалька і Нестерова. Із за малої кількості виставкових площ і величезної кількості експонатів музей постійно влаштовує змінні виставки зі своїх багатих фондів.

Музей проводить велику дослідницьку роботу, археологічні розкопки, випускає наукові праці, що стосуються археологічних пам'яток Москви і Підмосков'я.