У IX ст. місто Дербент був в основному арабським містом, але вже до Х-ХІ ст. він став багатокультурним і поліетнічним. Згідно зі свідченнями арабського автора Абу Хаміда аль-Гарнаті, тут постійно проживали араби, перси, лезгини, даргинці, осетини, табасаранцы, аварці, тюрки, кубачинцы, лакци, кайтагцы та інші національності. До 733 р. в місті було споруджено сім мечетей. Для здійснення п'ятничного намазу (джума) додатково діяла центральна мечеть. З кожним роком мечетей ставало все більше і більше. До 1796 р. в місті вже налічувалося п'ятнадцять мечетей. Але одним з головних джерел поширення ісламу на території Росії стала саме Джума-мечеть, розташована в центральній частині міста Дербент.

Джума-мечеть - це архітектурний ансамбль, який складається з мечеті, медресе і житлових приміщень для імамів. Мечеть була зведена в 733-734 р. На той момент вона була найбільшою міською спорудою в місті.

За всю свою багатовікову історію Джума-мечеть неодноразово перебудовувалася. Сьогодні над її входом, наприклад, можна побачити напис, яка говорить про те, що в 1368-1369 рр. мечеть була відновлена після сильного землетрусу Таджутдином. Спорудження медресе при Джума-мечеті почалося тільки в 1474-1475 рр Розширення медресе і формування цілого комплексу закінчилося лише в 1815 р.

У 1930 р. мечеть була закрита. З 1938 по 1943 р. вона перебувала у віданні НКВС і використовувалася як міський в'язницею. І лише на третій рік війни вона була передана в руки релігійної міської організації. У радянський час дербентська Джума-мечеть була найбільшою в усьому Північному Кавказі і залишалася єдиною в Південному Дагестані.

Незважаючи на зміну епох, стихійні лиха та випробування часом мечеть непогано збереглася до сьогоднішніх днів. Мечеть внесена до складу культурної спадщини ЮНЕСКО.