Vom "Stadhuys" aus führen Stufen hinauf zu St. Pauls Hill (St.Pauls Hügel), auf dem die sich die Ruine der St.Paul's Church (St.Pauls Kirche) befindet. Ein portugiesischer Kapitän, namens Duarte Coelho, baute 1521 diese Kapelle. Sie sollte die führende katholische Kirche in der Stadt werden.

Als die Holländer die Kontrolle übernahmen, wurde die Kirche in St. Paul's Church umbenannt. Als die Christ Church 1753 fertiggestellt war, wurde St. Paul's Church und St.Paul's Hill von den Holländern als Friedhof für ihre Eminenzen missbraucht.

Das offene Grab im inneren St Paul's, ist der Platz, wo St. Francis Xavier, der regelmässig die Kapelle aufsuchte, 1553 beigesetzt wurde. Später wurden seine Überreste nach Goa in Indien überführt. Eine Marmorstatue wurde zu seiner Erinnerung errichtet.

Von der Kirche auf dem Hügel hat man eine hervorragende Aussicht. Im Inneren kann man wundervolle holländische Grabsteine sehen.