В 1647 році місто Айзенштадт опинився під пануванням княжого дому Естерхазі, що зробило великий вплив на місто і призвело до позитивних змін. У 1648 році за указом імператора Фердинанда III Айзенштадт став вільним містом, заплативши відкупні в розмірі 16000 гульденів і 3000 бочок вина. У 1670 році Пауль I дозволив оселитися в Айзенштадті і шести прилеглих населених пунктах 3000 євреїв, які були вигнані з Відня. Рабином міста був Самсон Вертаймер, який і сам був похований на старому єврейському кладовищі.

Виникла потреба у кладовищі. Так з'явилося старе єврейське кладовище у 17 столітті біля єврейського кварталу. Старе кладовище функціонувало з 1679 по 1875 роки і налічувало близько 1140 могильних плит тільки з написами на івриті. Із-за обмеженого простору, поруч зі старим кладовищем було створено нове. Нове кладовище знаходилося в експлуатації з 1875 року.

Під час нацистської окупації обидва кладовища були частково зруйновані, а надгробні плити були використані для зведення загородження по всьому місту. Після 1945 року кладовища були відремонтовані, а пам'ятники були поставлені на місце. У 1992 році на новому кладовищі відбувся акт вандалізму: близько 80 надгробків були спаплюжені нацистської символікою.

Кладовище в Айзенштадті відрізняється від інших стародавніх єврейських кладовищ відсутністю рослинності. Проте, воно має велику схожість за формою і зовнішнім виглядом з Віденським кладовищем. Це пояснюється тим, що перші поселенці були віденськими емігрантами. Раніше вхід на старе кладовище був зроблений через красиві напівкруглі металеві ворота, однак, у даний час вони не збереглися. Обидва кладовища відкриті для відвідувань.