La chiesa di San Cataldo si trova ai margini del borgo antico, fuori dalla cinta muraria medievale e in parte assorbita dallo sviluppo urbanistico della zona moderna. La sua costruzione si deve ad Antonio Angrisani che morendo (1765) donò i suoi beni al Capitolo purché fossero destinati alla costruzione di una nuova chiesa. I lavori furono iniziati nel 1772 e ultimati nel 1783 e solo nel 1788 fu aperta al pubblico. Vicende molto travagliate caratterizzarono la progettazione e costruzione dell'edificio. Infatti in un primo momento la direzione dei lavori fu affidata all'ingegnere regio Giuseppe Palmieriper poi essere ceduta al maestro Antonio Antelmi.
La facciata mostra un barocco sobrio e molto elegante: le lesene e i cornicioni la ripartiscono in maniera armoniosa senza abbondare di fregi decorativi. Infatti essenziale è la decorazione barocca che avvolge il portale e la finestra mistilinea del secondo ordine. Solo nella parte superiore c'è una maggiore ricercatezza di dettagli, come ad esempio le serpentine laterali, i fiaccoloni e la nicchia centrale contornata da un effetto a specchiera che ospita la figura di San Cataldo in abiti vescovili. In seguito agli ultimi lavori di restauro è stato scoperto un sepolcro ipogeo con volte a botte, che si può intravedere solo per mezzo di alcuni specchi in quanto è impossibile l'accesso. All'interno della chiesa sull'altare maggiore del 1789, costruito dal maestro di Greco di Ostuni, è collocata una scultura in pietra policroma del santo intestatario della chiesa, in mezzo a un impianto superbo, traboccante di stucchi bianchi.
Sempre all'interno della chiesa si segnala la statua moderna in legno di San Biagio, opera di Vincenzo Musner, importantissima perché legata ai festeggiamenti popolari in onore del santo il 3 febbraio.
