Bevor der ehemalige Stadtgraben im Bereich Ledergraben aufgefüllt wurde, befanden sich dort etwa dreißig kleinparzellierte Weihergärten mit „Sausteigen“, Hühner- und Holzställen und ein großer Gerberweiher. Dieses stehende Gewässer wurde im Jahr 1861 trockengelegt sowie aufgefüllt und auf dem Gebiet des ehemaligen Stadtgrabens die Lederstraße in Gestalt einer dreigliedrigen, von Bäumen gesäumten, Allee gebaut. Der Umbau dieses großen Areals zog sich mehrere Jahre hin. Auf diese Weise wurde in unmittelbarer Nähe der mittelalterlich eng bebauten Stadt ein großer, freier Platz gewonnen: der Ledergraben.
Nach kurzer Zeit entwickelte sich der Ledergraben zu einer kommunalen, kulturellen und ökonomischen Begegnungsstätte für Jung und Alt, was sich in zahlreichen Veranstaltungen – wie beispielsweise den mannigfachen Märkten, den zahlreichen Schaubuden der fahrenden Leute, den bunten Festzügen oder auch der winterlichen Schlittschuhbahn – manifestierte. Aber auch das Friedrich-List-Gymnasium und kommunale Einrichtungen, wie zum Beispiel die Feuerwehr, fühlten sich am Ledergraben heimisch. Ebenso waren hier zahlreiche Gewerbetreibende und Handwerker beheimatet.
Aufgrund der Kriegsschäden sowie der stark wachsenden Motorisierung nach dem Zweiten Weltkrieg und den damit verbundenen Verkehrsproblemen wurde der Ledergraben immer mehr dem verkehrstechnischen Fortschritt und dem ökonomischen Wachstum geopfert. Zunächst in Gestalt von schlichten Parkplätzen und schließlich in Form der heutigen Bundesstraße 312. Durch den Rückbau einer Fahrspur zur Reduzierung der hohen Stickoxydbelastung erhielt der Ledergraben in jüngster Zeit auch eine überregionale Beachtung.