Науковий геологічний музей імені А. А. Чернова був організований в 1968 році. Але питання про його створення почали піднімати набагато раніше. Одним з тих, хто неодноразово порушував це питання, був сам Олександр Олександрович Чернов. Їм навіть була складена приблизна програма, названа «Музей місцевого краю». Завдання музею повинна була зводитися до порушення у місцевого населення інтересу до неживій природі, в т. ч. і рідного краю, знайомство його з практичним значенням об'єктів неживої природи, а також протікають в ній процесів.

До моменту організації Інституту геології в 1958 році в ньому накопичилися великі колекції кам'яного матеріалу, який зберігався самими співробітниками. Природно системи обліку колекцій не було. Багато з них зникали безслідно. Тому назрівала необхідність створення музею. В 1969 році було випущено розпорядження про необхідність здавати в музей тематичні колекції. З цього моменту процес створення і розвитку геологічного музею почав набирати обертів.

Перше десятиліття музей існував як сховище колекцій. При створенні основного музейного фонду відразу ж відбиралися найбільш ефектні зразки для створення майбутньої експозиції. Експозиційну частину музею відкрили у травні 1978 року до 20-річчя Інституту геології. Автором першої експозиції та тематико-експозиційних планів став М. В. Фішман. Оформлювальними роботами займався художник Ст. Сердитов. У результаті була створена досить компактна, але насичена за обсягом матеріалу тематична експозиція корисних копалин північно-східної Європейської частини СРСР. У 1980 році був опублікований перший музейний каталог, в якому вперше були наведені дані про колекції флори і фауни фанерозою СРСР, що зберігаються в музеї.

Характерною особливістю геологічного музею є те, що тут демонструються лише місцеві зразки, які характеризують мінеральна сировина та геологічну будову північно-сходу Європейської частини Радянського Союзу і Північній частині Уралу. Спочатку планувалося організувати в музеї 7 відділів. У 1988 році був готовий загальний відділ музею, а також відділ еволюції органічного світу і будови земної кори, відділ корисних копалин, у якому було розміщено більше тисячі експонатів. В 1989 році були відкриті відділи літології, петрології, тектоніки. У 1990 році відкрили мінералогічний відділ.

У 2007 році на основі приватного зібрання виробів з самоцвітів А. П. Боровинских та за фінансової підтримки Міністерства природних ресурсів Республіки Комі був організований виставковий зал «Ноїв ковчег». Протягом 25 років А. П. Боровинских збирав вироби з каменю, які зображують комах, птахів, звірів.

В даний час виставкова площа музею становить 350 кв. м. У вступному залі висвітлено основні етапи вивчення цих місць, важливі відкриття, відвідувач тут знайомиться з геологічним інститутом та визначними геологами.

Геологічний музей – це академічна установа. Його виставки розраховані на науковий та дослідницький рівень подачі інформації відвідувачу. Щоб розширити коло відвідувачів розроблялися різні варіанти екскурсій, які спеціально адаптовані під різні вікові групи.

Зараз основні відвідувачі музею – студенти і школярі. Тут проводяться краєзнавчі уроки для молодших школярів. Для старших класів організовуються тематичні екскурсії про корисні копалини краю і розвитку життя на планеті. Також тут проводяться заняття для студентів вищих навчальних закладів Сиктивкара з геологічних, екологічних і географічних напрямках. На базі музею проводять лекції для студентів фізичного факультету СыктГУ за геологічними дисциплін, державного педінституту, Лісового інституту. Геологічний музей є постійною базою занять для слухачів Малої академії Комі НЦ. Обробляючи колекції музейних фондів, студенти під керівництвом співробітників музею пишуть курсові та дипломні роботи.

Організована в геологічному музеї та робота з делегаціями з-за кордону. Музей відвідали представники понад двадцяти країн світу. При знайомстві з республікою відвідування геологічного музею – невід'ємна частина культурної програми гостей краю.