1923 yılında askerî depo olarak hizmet vermek üzere inşa edilen bir bina içine kurulan cezaevi, 1925 yılında yapılan tadilatlar ile cezaevi olarak kullanılmaya başlandı.
68 kuşağının önde gelen isimlerinden Deniz Gezmiş, Yusuf aslan ve Hüseyin İnan, 6 Mayıs 1972 tarihinde cezaevi avlusundaki kavak ağacının altında idam edildi. 1980 ihtilalinin ilk infazları da 8 Ekim gecesinde, sol görüşlü Necdet Adali ile sağ görüşlü Mustafa Pehlivanoğlu’nun idam edilmesiyle bu cezaevinde gerçekleşti. 13 Aralık 1980’de ise Erdal Eren’e verilen idam cezası burada infaz edildi.
Cezaevinde, Cüneyt Arcayürel, Mahmut Alınak, Fakir Baykurt, Hatip Dicle, Orhan Doğan, Bülent Ecevit, Yılmaz Güney, Nazım Hikmet, Yaşar Kemal, Yavuz Öbekçi, Selim Sadak, Sırrı Sakık, Kemal Tahir, Metin Toker, Muhsin Yazıcıoğlu ve Leyla Zana gibi çok sayıda ünlü tutuklu ve mahkûm kaldı.
29 Eylül 1999’da başlatılan Hayata dönüş operasyonu sırasında cezaevinde 10 kişi öldü, 100’e yakın kişi de yaralandı.
Ulucanlar Cezaevi 1 Temmuz 2006’da kapatıldı. Daha sonra restore edilerek müzeye dönüştürüldü.
