Церква целестинцев в тому вигляді, в якому її можна побачити в даний час, була побудована в XV столітті. Її будівництво було розпочато у 1396 році і велася майже сто років. Спочатку тут стояла скромна дерев'яна каплиця, побудована над місцем поховання святого Петра Люксембурзького. В честь цього поховання отримала назву та площа навколо каплиці – Плас-де-Неде-Сент (площа Святих мощей).

Петро Люксембурзький був відомий тим, що став високопоставленим церковником в юні роки – у 15 років він вже був єпископом Меца, потім незабаром одержав титул кардинала, а у 18 років (1387 рік) помер від сухот. Після його поховання в Авіньйоні пішли чутки про чудотворність кардинальских останків, і ченці ордена целестинцев прийняли рішення спорудити над могилою монастир. До лику святих Петро Люксембурзький був зарахований тільки в 1527 році, а до цього його мощі були шановані і без офіційного визнання їх святості Церквою.

Пізніше поруч з церквою целестинцев була побудована каплиця на честь ще одного святого – Бенезета, одного з найбільш шанованих в Авіньйоні. Згідно з місцевою легендою, в житті земної Бенезет був простим пастухом, якому з'явився Христос і наказав побудувати в Авіньйоні міст через Рону. Коли мешканці міста вимагали від Бенезета довести їм свою обраність і виявити яке-небудь чудо, він проніс через все місто до річки величезний камінь і визначив їм місце для будівництва. Бенезет жив в XII столітті і був канонізований в XIV столітті.

Церква целестинцев володіла багатьма цінностями – витворами мистецтва та релігійної начинням, які під час Великої Французької революції були спалені, а сама церква була перетворена в казарму. Вцілілі реліквії целестинцев знайшли притулок в інших храмах Авіньона – наприклад, мощі святого Бенезета покояться в церкві Святого Адеодата.

В даний час дворик церкви стає театральними підмостками на час проведення щорічного липневого фестивалю.