Zu den alten Befestigungsanlagen gehörte der Storchenturm, mit seinem Kegeldach eines der Wahrzeichen von Guttstadt. Er steht behäbig wie in alten Zeiten und die Störche kehren jedes Jahr unverdrossen wieder, um auf seiner Spitze zu nisten.

Das Mühlentor beim Domherrenstift ist nur noch ein Stumpf.

Die anderen drei Stadttore wurden 1858 abgebrochen, aber einige Teile der Wehrmauer aus dem 14. Jh. im Osten und im Norden der Stadt sind stehen geblieben.

Das mittelalterliche Rathaus brannte 1932 ab und wurde nicht wieder aufgebaut.