Після візиту Патріарха Московського Алексія ІІ з учасниками Сталінградської битви Мамаєва кургану в червні 1993 року виникла ідея побудови храму на пам'ятній землі. Місце, виділене під храм, знаходиться поруч з братською могилою декількох тисяч солдатів, в двохстах метрах від пам'ятника «Батьківщина-мати».

Закладка храму було розпочато дев'ятого травня 2002 року після щорічного (з 1997 року) хресного ходу з іконою Божої Матері. Кошти на спорудження храму йшли виключно з пожертв населення і в 2004 р, на Покрову день, було встановлено головний купол. У 2005 році, дев'ятого травня храм був освячений і відкритий для відвідин.

У 2006 році собор Всіх Святих отримав унікальний подарунок у вигляді трьох ікон ручної роботи астраханських майстрів виготовлених за старовинною технологією. Внутрішнє оздоблення храму прикрашають золоті люстри та іконостас, написаний литовським іконописцем-художником Володимиром Савельєвим.

Білокам'яний храм має висоту 38 метрів і видно практично в будь-якому районі Волгограда. Шоломоподібні куполи з титанового сплаву, замовленого на Уралі, символізують богатирів, які охороняють Руську землю, як би доповнюючи меморіальний комплекс «Героям Сталінградської битви», вносячи частку православної віри на Головну висоту Росії.

Поруч з храмом планується будівництво двох дзвінниць, на одній з яких буде величний «Дзвін Миру». А поки над Мамаевым курганом дзвін розноситься семи дзвонів, відлитих у Воронежі, розташованих поруч з храмом.