Неподалік від Соловецького монастиря, а точніше в 5 км в південно-західній стороні, знаходяться два острови, які умовно поділяються на Великий і Малий Заяцкие острова. Площа островів складає 2, 5 кв. км, і вони помітно відрізняються від інших островів Соловецького архіпелагу. На цих островах немає лісів, боліт або озер, а також чогось величного, що запам'ятовується або грандіозного. В тутешніх місцях багато тундровій рослинності, яка представлена низькорослими чагарниками, ягідними кущами, карликовими деревами, мохами і травами; до того ж, по всій території є валуни і розсипи каменів. На Великому Заяцком острові найвищою точкою є Сигнальна гора, висота якої 31 метр.

Підстава Свято-Андріївської пустелі сталося в 18 столітті. Зведення нового храму, освяченого на честь одного з святих апостолів Андрія Первозванного, безпосередньо було пов'язано з відвідуванням Соловецьких островів великого царя Петра Першого. Влітку 10 серпня 1702 року на пристань Великого Заяцкого острова пристали тринадцять військових кораблів. Петро Перший в супроводі наближених слуг і осіб на маленькому судні відправився прямо до Соловецького монастиря. Про прибуття государя знав архімандрит Фірс, який його і зустрів. Як тільки Петро Перший підійшов до обителі, він поклонився їй і протягом усього часу був присутній на богослужінні.

Згідно з указом Великого государя, на Великому Заяцком острові, поруч з яким розташовувався флот, протягом кількох днів була побудована невелика дерев'яна капличка, освячена на честь святого апостола Андрія Первозванного, який є покровителем усього Російського флоту.

На території острова розташовувався не тільки монастирський портовий, але і необхідний господарський корпус, який став місцем надійного притулку для всіх подорожуючих. Вибудувана з великих валунів гавань з невеликою пристанню, а також кам'яні палати були зведені на цьому острові ще в часи перебування тут ігумена-святителя Филипа – протягом 1548-1566 років. До нашого часу добре збереглися валунный погріб, збудований в 19 столітті, і невелика поварні. На прибережних зонах острова знаходилося безліч різних обетных, зроблених з дерева хрестів, спорудження яких було справою рук мореплавців.

На цьому острові, як і на інших Соловецьких островах, перебував Соловецький табір. Їх стали називати «острова штрафних відряджень», на яких неминуче вмирали замучені в'язні.

Після того, як в Соловецькому монастирі життя знову відродилася, в 1992 році Великий російський патріарх Алексій II дав своє благословення на здійснення Божественної літургії у всіх залишились і збереглися храмах, а також межах Соловецького монастиря. Влітку 13 липня 1994 року, в день святкування дати Собору Дванадцяти апостолів, в перший раз була проведена Божественна літургія у храмі святого апостола Андрія Первозванного, розташованого на Великому Зацком острові.

На сьогоднішній день вся монаша братія Свято-Андріївської пустелі більше не проживає в цих місцях. Тут збереглися не тільки храм, але і всі господарські споруди, які все ж потребують глобальних ремонтно-відновлювальних робіт. У літню пору року тут відбуваються богослужіння, але це відбувається не завжди. Але все ж кожен рік 13 липня – у день святого свята – насельники обителі з'їжджаються на острів і як раніше проводять Божественну літургію в храмі Андрія Первозванного. У літній час тут часто можна зустріти прочан, а в храмі можна поставити свічку, але як тільки останній паломник залишає храм, свічку треба обов'язково загасити, адже храм збудований з дерева. Від храму, пройшовши 300 метрів, можна потрапити на святе джерело, який є єдиним прісним на всьому Великому Заяцком острові. Всі прийшли на це місце обов'язково набирають зі зрубу святої води.

У зимовий час року, коли все море покривається товстим льодом, чернеча братія приходить у Свято-Андріївську пустель, щоб у спокої і тиші помолитися в священному місці.