Музей був відкритий в 1942 році в будівлі "Чифте Минарели". Однією з основних колекції музею є твори, придбані, або подаровані громадянами і знайденими в результаті археологічних розкопок. Пізніше, в 1967 році, эрзурумскому музею було запропоновано переїхати в нову будівлю. У 1994 році музей був відкритий в медресе "Якутие". Тут головними експозиціями стали етнографічні твори і знахідки тюрко-ісламського періоду. Незабаром музей було перейменовано і розділений на Археологічний музей і Музей турецько-ісламського творів.

В результаті розкопок стародавніх поселень, археологічний музей став володарем найцінніших творів і на сьогоднішній день має в своєму розпорядженні багатою колекцією експонатів.

У залі стародавніх поселень розташовані твори, придбані музеєм, в результаті розкопок на території цієї області. Серед них особливе місце займають артефакти, виявлені під час розкопок в Каразе (1942-1944 рр.), Пулуре (1960 р.) і Сосі (1994-1998 рр..). Тут також виставлені предмети і твори, які мають відношення до історії людської цивілізації, починаючи з четвертого століття до нашої ери і до сельджукського часу. Вони представлені статуетками, наконечниками стріл, священними джерелами вогню, кам'яними виробами, судинами з паленої глини.

Наступний зал називається зал Риму, еллінського часу і Закавказзя. У цьому залі виставлені твори, які придбані музеєм в результаті розкопок в Икизтепе. Вони належать візантійському і римському часу, серед них є кільця, діадеми, золоті предмети, сережки, предмети з паленої глини, скляні пляшечки для сліз, саркофаги, а також представлена виставка предметів і творів мистецтва, що належать до другого тисячоліття до нашої ери, які зображують рівень культури Східної Анатолії, Західного Вана, народу прибережжя озера Урміє, що знаходиться на південно-сході і Грузії, що знаходиться на північно-сході.

З спадщини Урарту в музеї експонуються: металевий посуд, твори з паленої глини, декоративного призначення, предмети естетичного призначення, друку, клятвені таблички, військове спорядження та інші предмети.

У залі монет представлено монети, що належать часу Візантії та Риму. В залі історії природи розташовані пластини-письмена, епітафії Урарту, придбані музеєм. Пильну увагу приковують до себе твори Мамуда, який жив п'ятсот тисяч років тому.