Nell’area dell’attuale chiesa di S. Domenico nei pressi della Prefettura di Bari esisteva anticamente una chiesa dedicata ai Santi Simone e Giuda. Con questo nome è menzionata nella bolla di papa Lucio II (1144), di Alessandro III (1168) e Onorio III (1225), sempre extra muros Bari. Alcuni decenni dopo però la chiesa venne a trovarsi all’interno della cinta muraria, come attesta il suo passaggio ai Domenicani nel 1286. Già al tempo della prima ristrutturazione e ampliamento la chiesa cominciò ad essere designata come S. Domenico, dal nome del fondatore dell’Ordine dei Predicatori.

Verso il 1290 vi risedette come priore il noto fra Pietro d’Andria, già segretario e redattore delle opere d S. Tommaso d’Aquino. Nel 1298 il re Carlo II d’Angiò donò alcuni edifici, i cui proventi dovevano essere impiegati per la costruzione del convento e della chiesa. Nel 1309 il priore Giovanni di Acquaviva vendeva alcune proprietà per imprimere un ritmo più accelerato ai lavori. Entro il 1334, quand’era priore fra Matteo di Potenza, due nobili fiorentini avevano scelto la chiesa come luogo di sepoltura. Nel 1247 trovava sepoltura anche fra Angelo da Bari vescovo di Bitetto.

Le guerre franco-spagnole degli inizi del Cinquecento segnarono un periodo di crisi, anche per la perdita dei contributi alla città come dimostra una lettera di Bona Sforza ai frati, che chiedevano il rispristino del contributo tradizionale. La crisi dovette continuare, se dalla visita di mons. Orfino nel 1568 alcuni altari, come quelli di S. Maria della Neve e di S. Caterina, risultavano trasandati. Dalla visita di Ascanio Gesualdo nel 1622 risulta invece la notevole attività della confraternita del Rosario, esistente almeno dalla metà del XVI secolo. Ai primi del XVII secolo la vecchia chiesa fu demolita per essere ricostruita più imponente. Nel 1794 si precedette a una più vasta opera di ristrutturazione. Soppressi, come altri Ordini nel 1809, i Domenicani rientrarono a Bari grazie ad un decreto reale del 10 maggio 1820, andando a risiedere non più in S. Domenico (sede dal 1815 dell’Intendenza, e più tardi della Prefettura), bensì nella chiesa del Rosario in Piazza Garibaldi. Intanto la chiesa fu curata alacremente dalla confraternita del Rosario, che fondata nel XVI secolo, aveva ottenuto il regio assenso il 30 Ottobre 1768. Soppressa nel 1806, nel 1846 ebbe nuovamente il regio assenso e nel 1900 divenne Arciconfraternita. All’interno si conserva ancora una bella tela della Vergine che consegna il Rosario a S. Domenico firmata da Andrea Miglionico mentre quella raffigurante la vergine che appare al beato Reginaldo di Nicola Gliri (1674) attualmente si trova nella Cattedrale di Bari.