Ботанічний сад Київського університету запропонували створити на початку XX століття за ініціативою наукової інтелігенції у зв'язку з евакуацією Варшавського університету в Ростов-на-Дону в 1915 році. Однак це стало можливим за активної участі професорів Київського університету В.Н.Вершковского і В.Ф.Хмелевського тільки 1927 році, коли міська влада виділила земельну ділянку в північно-західній частині Ростова. На цій території до революції розташовувалося успішне цветоводческое господарство братів Рамм, уродженців Голландії. Ближче до русла річки Темерник розташовувалися ділянки для вирощування літніх культур, а далі від ріки – оранжереї для зимової вигонки квіткових рослин до Різдва та Великодня. Брати займалися вирощуванням величезної кількості саджанців декоративних і плодових рослин, проводили селекційну роботу з гібридизації троянд на основі кращих сортів, привезених із Франції та Німеччини. Випускався досить великий каталог декоративних, плодових рослин і насіння, тільки чайно-гібридних троянд брати пропонували близько 400 сортів.

В кінці 1928 року ботанічний сад був переданий у відання Північно-Кавказького (Ростовського, а сьогодні – Південного Федерального) університету. За короткий строк був закладений парк лісового типу і дендрарій з більш ніж 400 нових для регіону видів. Під час Великої Вітчизняної війни більша частина насаджень і споруд була загублена. Зараз з довоєнних посадок збереглися і знаходяться в хорошому стані 54 види, серед яких бук, граб, каркас південний і миссисипский, оксамит амурський, чекалкін горіх, дуб великоплідний і крупнопыльниковый, в'яз дрібнолисте. Найбільш старим рослині – дубу черешчатому - понад 120 років.

В цей час Ботанічний сад є навчально-науковим підрозділом Південного Федерального університету, займає 160 гектарів, віднесено до пам'яток природи регіонального значення.