В 1859 г. князь А.И. Барятинский после пленения Шамиля возвращался в Тифлис через Дербент. 30 августа А.И. Барятинский прибыл в Дербент. Здесь ему оказали торжественную встречу. К этому времени в городе построили триумфальные ворота, названные в народе Ермоловскими. Таким образом, дербентцы показали своё уважение к строгому, но справедливому генералу Российской империи. Эти ворота находились на пересечении улиц Ермоловской (М. Рзаева) и Базарной (Н.И. Крупской).
Перекинутая через Ермоловскую улицу триумфальная арка со стрельчатыми проёмами, обрамлённая полуциркульной нишей, имела парадный вид. В 1937 году Ермоловские ворота были снесены.
Письменные источники сообщают о строительстве мечетей и ворот в Дербенте в различные периоды его истории, начиная с VIII века автор Хв. Ал-Макадаси пишет о соборной мечети Дербента, расположенной посреди площади. Так же и ворота, не предусмотренные первоначальным планом, со временем появлялись в стенах города.
Древнейший из них — комплекс Джума-мечети, являющийся одним из наиболее интересных сооружений Дербента. Он расположен в верхней части города и состоит из самой мечети, медресе, разделяющего их, почти квадратного двора, трёх ведущих во двор ворот, жилого здания для духовенства и мусульманской школы. Наибольший интерес в этом комплексе представляет сама Джума-мечеть, древнейшая и самая крупная мечеть на Кавказе.