Kani Karaca, 1930’da Adana’da dünyaya geldi. İki aylıkken, bir kaza sonucu gözlerini kaybetti. Din eğitimine, ilkokul çağındayken, yaşadığı köyün imamı ile başladı.
1950 yılında İstanbul’a gelerek Saadettin Kaynak ile üslub ve tavır üzerine çalışmalar yaptı. Ali Üsküdarlı, Halil Nuri Poyraz, Saadettin Heper gibi üstadlarla çalışarak tasavvufi müzikte olduğu kadar din dışı müzikte de adını duyurmayı başarmıştır.
Mevlid törenleri, radyo programları, konserler, Mevlana’yı anma törenlerinde bariton sesi ile hafızalarda yer etmiştir. İstanbul'un son kırk yılda tanıdığı en ünlü hafız ve mevlidhanlarından biri olmuştur. Doğaçlama yeteneğinin çok gelişmiş olması onu diğer icracılardan farklı bir noktaya yerleştirmiştir.
Türkiye Hafız’ı Kur’an ve Mevlithanlar Cemiyeti'nin kuruluşunda büyük katkısı bulunan Kani Karaca, İstanbul tilavet geleneğinin ve Üsküdari kıraat tarzının son temsilcilerinden olmuştur. Yakalandığı kanser sonucunda 29 Mayıs 2004’te vefat etmiştir.