4 Şubat 1881 Verhneye'de doğdu. Rus asker ve siyaset adamı 1903'den başlayarak Bolşevik saflarında yer aldı. 1917 Ekim devrimini izleyen iç savaşa katıldı.
1919 yazında Volgograt savunurken bölgenin siyasi komiseri Iosif Stalin'le yakın ilişki kurdu. 1925'de Stalin tarafından savunma halk komiserliğine atandı. 1926 Merkez Komitesi Polit Büro üyesi oldu ve 1935'de mareşal rütbesini kazandı. 1945- 1947 arasında Stalinin temsilcisi olarak Macaristan'da Komünist rejimin kurulmasını yönlendirdi. Stalinin ölümünden (Mart 1953) sonra devlet başkanlığına denk olan Yüksek Sovyet Prezidyumu başkanlığına getirildi.
1960'da emekli oluncaya değin devlet ve partideki yüksek görevlerini sürdürmesine izin verildi. "Parti Karşıtı Grup" la ilişkisi kamuoyuna Ekim 1961'de açıklandı. Türkiye'ye gelerek Atatürk'ü de ziyaret eden Voroşilov Kliment Yefromoviç, 2 Aralık 1969'da Moskova'da öldü.
