Uprostřed náměstí stojí barokní kaple sv. Šebestiána, postavená v roce 1715 císařskou vojenskou posádkou za městskými hradbami na paměť velkého moru. Průčelí kaple je zdobeno barokní kartuší s latinským nápisem s chronogramem: PESTIS TEMPORE DEVOTA CAESAREA GVARNISONA FIERI FECIT (za časů moru nechala postavit zbožná císařská posádka). Nad štítkem je umístěna hodnotná barokní plastika sv. Šebestiána, ochránce proti moru a živelným pohromám. V roce 1969 byla kaple přemístěna unikátní technologií podle československého patentu ze svého původního místa o několik metrů jihovýchodním směrem a usazena na nově vybudované základy. Tato technologie byla pak znovu využita při přesunu děkanského kostela P. Marie v Mostu.