1883 yılında İstanbul'da doğdu. Büyük Çerkes sürgününde Anadolu'ya göçeden Therhet adlı bir Vubıh ailesinden olan Mehmet Cahit Bey'in oğludur. Harp Okulunu 1902'de bitirdi. Beyrut ve Hicaz'da (1902- 1909) bulundu. Osmanlı-İtalyan savaşlarında bulundu. Balkan Savaşına ve I. Dünya Savaşına katıldı.
Kurtuluş Savaşı'nda 5. Kafkas Tümeni Komutanı olarak Batı Cephesinde Savaşan Toydemir, 1927'de Tümgeneral, 1933'de Korgeneral oldu.
1942'de Orgeneralliğe yükselerek Askeri Yargıtay Başkanlığı ve 1. Ordu Komutanlığı (1943) yaptı. 1946'da emekliye ayrıldı.
1946'da VIII. Dönem CHP İstanbul Milletvekili seçildi. Recep Peker hükümeti döneminde Millî Savunma Bakanı (1946-1947) olarak görev yaptı.
15 Temmuz 1956 tarihinde İstanbul'da vefat etti. Edirnekapı Şehitliği'ne defnedildi.
Mustafa Kemal Sivas'ta 25. Tümen Komutanı Cemil Cahit Toydemir ile birlikte (Eylül 1919)