Şanlıurfa şehir merkezindeki camilerin en eskilerindendir. "Kızıl Kilise" olarak bilinen eski bir kilisenin yerine inşa edilmiştir. Bu kilisenin avlu duvarları, bazı sütunları ve sütun başlıkları ile minare olarak kullanılan çan kulesi halen ayaktadır.
Halep hükümdarı Nureddin Mahmud Zengi tarafından tamir ettirilerek bugünkü şeklini alan Halep Ulu Camii ile benzer bir plan gösteren Urfa Ulu Camii'nin de aynı dönemde yapıldığı tahmin edilir.
Avlunun kuzeydoğu köşesinde yer alan, çevresi yüksekliğine eşit sekizgen çan kulesi bugün minare olarak kullanılmaktadır. Minare aynı zamanda şehrin ilk ve tek “saat kulesi” görevini de görmektedir.