Rechts neben dem Chor befindet sich die zweijochige Polnische Kapelle vom Ende des 15. Jhs., auch St. Georgs – Kapelle genannt..
An das Südschiff der Kirche ließ Bischof Christoph Szembek (1724 – 1740) von 1732 – 1735 eine spätbarocke, überkuppelte Kapelle, die Erlöser-Kapelle, anbauen. Sie ersetzte eine Kapelle aus dem 16. Jh. und war als Grabstätte für die ermländischen Bischöfe vorgesehen. Das Eingangsportal aus Schmiedeeisen ist ein Werk von Johann und Christoph aus Rössel.
Der Bauherr Bischof Szembek, Graf von Slupow und einer in Polen geadelten Familie aus Tirol entstammend, hatte massive Auseinandersetzungen mit Friedrich Wilhelm I., dem Soldatenkönig, wegen dessen Anwerbepraktiken von Grenadieren im Ermland.