Graben liegt an der europäischen Hauptwasserscheide. Hier nähern sich die Flusssysteme von Rhein und Donau einander auf wenige Kilometer an und sind nur durch eine leichte Anhöhe getrennt. Diese besondere Situation erklärt sich aus der Erdgeschichte: Vor der Entstehung des Ries-Kraters vor 15 Millionen Jahren floss der Ur-Main durch dieses Tal der Donau.
Diese geographische Nähe wollte Kaiser Karl der Große nutzen: Im Jahr 793 ließ er einen rund 3000 Meter langen Kanal ausheben, um bequem mit Schiffen in den Südosten seines Reiches fahren zu können, wo er mit den Awaren Krieg führte. Aber: Die fränkischen Ingenieure stießen auf unerwartete Schwierigkeiten. Anhaltender Regen und der sumpfige Boden wurden zum massiven Problem, dazu kamen schlechte Nachrichten aus dem Norden und Osten des Reiches. Das Unternehmen Karlsgraben wurde eingestellt und der Traum des Kaisers platzte.
Was heute bei Graben von der Fossa Carolina zu sehen ist, bezeugt eines der größten ingenieurgeologischen Bauprojekte des Mittelalters. Sie ist das wohl bedeutendste Boden-Denkmal aus karolingischer Zeit in Franken.