Intorno alla metà del Cinquecento è da collocare la costruzione del convento e della chiesa del carmine, certamente prima del 1557, anno in cui è documentata l'autorizzazione alla costruzione, all'interno di detta chiesa, di una cappella in onore della Madonna della Catena, concessa dai padri carmelitani a tale
Giovanni Falco.
I frati appartenevano all'Ordine della Beata Vergine del Monte Carmelo ("Ordo Fratrum Beatissimae Mariae Virginis de Monte Carmelo"; acronimi: O. Carm. o O.C. o ancora O.C.C.), detti anche Carmelitani dell'Antica Osservanza o Carmelitani Calzati. I carmelitani di Canicattì non sono quindi da confondere con gli appartenenti all'Ordine dei Carmelitani Scalzi ("Ordo Fratrum Discalceatorum Beatissimae Mariae Virginis de Monte Carmelo", acronimo O.C.D.), fondato da Santa Teresa d'Avila con la riforma del 1592.
Di proprietà del convento erano i grandi orti che si estendevano tra via Marsala (oggi via Marconi) e via Nazionale (oggi via capitano Ippolito) fin quasi alla chiesa di san Biagio, comprendendo tutta l'area ove oggi sorgono l'ex Casa del Fascio e il Teatro Sociale. I carmelitani, che non furono mai numerosi (nel 1815 erano in cinque), possedevano inoltre una salma di terreno in contrada Cuba e dodici tumoli in contrada Sant'Anna: per questi terreni, ricadenti nel territorio feudale, i frati pagavano il canone di proprietà alla famiglia Bonanno.
La chiesa,
in un primo tempo detta dell'Annunziata, nel 1603 era utilizzata come chiesa
cimiteriale. Nei secoli ha subito vari interventi di manutenzione e restauro:
importante quello del 1725. Nel 1908, a seguito di un crollo parziale, furono
eseguite importanti opere a spese degli zolfatari che avevano come loro
protettrice proprio la Madonna del Carmine.
In questa chiesa era conservato un quadro - considerato da Alfonso Tropia il migliore della città - raffigurante la Sacra Famiglia e cioè la vergine col Bambino, S. Anna, San Gioacchino e San Giuseppe; in basso l'iscrizione "Monoculus Racalmutensis MDCXXXIII" indicava che l'opera era di Pietro d'Asaro, detto il Monocolo di Racalmuto, e che era stata completata nel 1633. Il quadro oggi si trova all'interno della Chiesa Madre.
Si tratta dell'unico documento iconografico sui luoghi di Canicattì tra Settecento e Ottocento.
Anticamente al Carmine era venerata una statua di San Raimondo Nonnato, così chiamato perché vide la luce dopo la morte della madre e per questo implorato dalle partorienti. Nel 1696 un suo ricco devoto in punto di morte espresse il desiderio che la statua, per essere meglio onorata, venisse trasferita nella chiesa degli Agonizzanti: ne seguirono liti, petizioni al vescovo, contrasti non solo verbali, ma alla fine prevalse la volontà dei frati e la statua rimase al suo posto. In seguito del simulacro si sono perse le tracce ed oggi il santo è venerato, con altra statua, nella chiesa del Redentore.
Attorno alla chiesa del Carmine ebbero sviluppo il Terz'Ordine Carmelitano e la Confraternita dello Scapolare del Carmine. Dopo la soppressione degli ordini monastici, il Comune di Canicattì provvide regolarmente alla nomina del rettore della chiesa: una delle ultime fu effettuata il 23 dicembre 1914.
La chiesa del Carmine fu anche sede della Confraternita degli Zolfatai che ogni anno, il 16 luglio, organizzavano la festa in onore della Madonna. Gli zolfatai, a loro spese, eseguivano periodicamente dei lavori di abbellimento all'interno della chiesa, come risulta anche da questa lapide posta all'ingresso, sul lato sinistro:
