Nachdem die länderübergreifende Diözese Konstanz aufgelöst worden war, wurde 1828 die Diözese Rottenburg gegründet. Rottenburg wurde somit zum Sitz des Bischofs und die dortige Markt- und Pfarrkirche zur Domkirche St. Martin erhoben. Ausschlaggebend war mit der Umstand, dass Stuttgart mit dem dort residierenden protestantischen König als Bischofssitz nicht denkbar war. Dagegen aber lag das katholische Rottenburg ganz in der Nähe der Landeshauptstadt, und die neu zu gründende katholisch-theologische Fakultät konnte an die Landesuniversität Tübingen angeschlossen werden.

Das Priesterseminar wurde im ehemaligen Karmeliterkloster am Neckar untergebracht (dort befindet sich heute auch das Diözesanmuseum), und das ehemalige Jesuitenkolleg beherbergt seither das Bischöfliche Ordinariat.

Zwar hat Rottenburg mit 5300 Gläubigen die größte Domgemeinde Deutschlands, trotzdem hat sie den kleinsten Dom, auch wenn die Diözese Rottenburg- Stuttgart weit größere und prächtigere Münster und Basiliken vorzuweisen hat.

So stieß St. Martin auch gleich zu Beginn seiner Geschichte als Domkirche auf wenig Gegenliebe, wenn zum Beispiel der erste hier residierende Bischof Johann Baptist von Keller in einer anonymen Flugschrift schreibt: „Stößt sie nicht gegen die ersten Regeln der Symmetrie? Verdüstert sich nicht schon das Gemüth beim Eintritte? Ja, sie steht der gemeinsten Dorfkirche wenigst darin nach, dass ihr Vorderhaus – Chor – völlig schief steht in der Richtung zum Langhause! Es bedarf keines Beweises, nur eines flüchtigen Blickes und geraden Urteils.“

So gab es von Anfang an Pläne, einen neuen Dom in Rottenburg zu bauen: ganz italienisch anmutend oder im neobyzantinischen Stil, bis hin zum neoromanischen Dom. Realisiert werden konnte allerdings keiner dieser Pläne.