Mardin Kapısı yakınlarında Ali Paşa Mahallesinde yer alan yapı 1887-1888 yıllarında 23 yıl Yemende valilik yapmış olan Cemil Paşa tarafından yaptırılmıştır. Oldukça geniş bir alanı kaplayan konak, haremlik ve selamlık bölümlerinden oluşmaktadır. Selamlık bölümünün tamamı; haremlik bölümünün ise doğu bölümü iki katlı olarak düzenlenmiştir. Şu an Diyarbakır Valiliği ve Diyarbakır Büyükşehir Belediyesinin ortak projesi kapsamında restorasyon halinde olan Cemil Paşa Konağı, restorasyon sonrasında kent müzesi haline dönüştürülecektir.