Музей був заснований Петром Першим в 1703 році, спочатку він був місцем зберігання «достопам'ятних і курйозних» знарядь (так було написано в наказі Петра І). Спеціальний указ наказував доставляти самі незвичайні та цінні зразки артилерії, а згодом інші види озброєнь, а також амуніції, прапорів і уніформи. Це вказівка поширювалося і на трофеї, захоплені в петровських війнах.

Імператриця Єлизавета Петрівна своїм указом перетворила Цейхгауз у Достопам'ятний зал в 1756 році. Місцем розміщення був обраний Ливарний двір. Справжнє життя музею почалася тоді, коли було вирішено виставляти військово-історичні колекції. Ця подія відбулася в 1868 році.

Музей знаходиться в Кронверке (на території Петропавлівської фортеці). З німецької мови це слово перекладається як «укріплення у вигляді корони». Спочатку Кронверк служив одним з елементів оборонної системи фортеці. Зводили його чотири роки (1705-1708), пізніше кілька разів зміцнювали і перебудовували. В кінці 18 століття споруда перестало нести оборонне значення. З Кронверком пов'язані такі історичні особистості, як Петро Великий, граф Б. Х. Мініх, граф П. І. Шувалов, принц Л. Гессен-Гомбургский, генерал-майон А. П. Ганнібал та ін.

У 1963 році до фондів Артилерійського історичного музею були додані колекції з фондів Центрального історичного військово-інженерного музею. Пізніше до складу Артилерійського музею увійшов Військовий музей зв'язку. Змінилася і назва, музей став називатися ВИМАИВиВС (Військово-історичний музей артилерії, інженерних військ і військ зв'язку).

У музеї експонуються колекції зброї з 54 країн світу і Росії. Зброя представлена і експериментальними зразками; і особистою зброєю, належав кращим полководцям і флотоводцям; і кращими серійними зразками, які внесли великий вклад у перемогу. Крім зброї у вітринах виставлено форма різних родів військ, макети фортець, бойові нагороди, макети фортифікаційних споруд від петровських часів до наших днів; справжні архівні документи, що стосуються зброї.

Музей прикрашають мальовничі, графічні та скульптурні твори на військову тематику. Зразки техніки викликають у відвідувачів захоплення та інтерес своїми досконалими лініями. Історичний броньовик, на якому стояв в. І. Ленін під час свого виступу на Фінляндському вокзалі, зброю та особисті речі Наполеона; знаряддя Шувалова і Нартова, яким немає аналогів у світі, не можуть нікого залишити байдужим.

Одне з центральних місць в музеї займає експозиція "Калашников – людина, зброю, легенда", яка стала постійною, присвячена Михайлу Тимофійовичу Калашникову, творцеві цілого комплексу автоматичної стрілецької зброї. Зброя, яка досі не має аналогів.

У 2006 році в музеї відбулося відкриття нового розділу експозиції, присвяченого військовій справі епох середньовіччя, Ренесансу і Нового часу, в якому зібрані зразки зброї західноєвропейських країн 15-17 століть.

Внутрішній двір Кронверка, в якому розташувалася зовнішня експозиція, в 2008 році «прикрасив» новий експонат – міжконтинентальний стратегічний ракетний комплекс «Тополь» (РС-12М).

Велика кількість техніки і озброєнь минулих часів дозволило стати території музею місцем проведення фестивалів військово-історичних реконструкцій і показових виступів, які проводять представники Клубу «Силует». Члени цього клубу не дозволяють забути таке рідкісне тепер мистецтво, як історичне фехтування, прийоми якого можуть бути втрачені.

В околицях музею організовуються археологічні розкопки, при проведенні яких були знайдені братські могили, де були поховані будівники і захисники Санкт-Петербурга. Крім того, зроблені знахідки, говорять про те, що історія цих місць почалася набагато раніше, ще до приходу на береги Балтики шведів.

Зараз Музей розміщується за адресою Олександрівський парк, 7.