Osmanlı Devleti'nin son dönemlerinde, Kurtuluş Savaşı'nda ve Türkiye Cumhuriyeti döneminde önemli görevlerde bulunmuş olan asker kökenli bir bürokrattır.
Trablusgarp Valiliği ve Ayan Meclisi üyeliği yapmış olan, Kafkasya kökenli Aşharuva Mehmet Muzaffer Paşa'nın oğludur. Deniz Harp Okulu'nu ve Mühendishane'yi 1899'da bitirip, Amerika, İngiltere, Almanya gibi dönemin önemli ülkelerinde çeşitli dış görevlerde bulunmuştur.
Trablusgarp ve Balkan Savaşları'na katılmış, deniz savaşlarındaki başarısı nedeniyle "Hamidiye Kahramanı" ünvanını kazanmıştır. Birinci Dünya Savaşı'nda İran ve Irak'ta Osmanlı Teşkilat-ı Mahsusası'nın bir görevlisi olarak bulunmuştur. Bunun üzerine yarbay rütbesine yükselerek Deniz Kuvvetleri Kurmay Başkanlığı'na atanmıştır. İzzet Paşa kabinesinde Bahriye nazırlığı yapıp, Osmanlı Devleti'nin çöküş belgesi olan Mondros Mütarekesi'ni imzalayan kişi olmak zorunda kalmıştır.
Malta'ya sürgüne gönderilmiş, 1921'de sürgünden dönerek Milli Mücadele'ye katılmak üzere Anadolu'ya geçmiştir. Kendisine Nafia vekilliği verilmiştir. Bakanlıktan ayrıldığı yıl Meclis ikinci başkanlığına seçilip, 1922-1923 arasında birkaç ay Başbakanlık yapmıştır.
1924'te Terakkiperver Cumhuriyet Fırkası kurulduğunda Rauf Orbay, daha önce İkinci Grupta başlattığı muhalefetini bu toplulukta sürdürmüştür. Parti, 3 Haziran 1925’de kapatılıp, yönetici kadro, 17 Haziran 1926’daki İzmir Suikasti olayıyla ilgili görülerek yargılandığında, Avrupa’da bulunan Orbay da 10 yıl hapse mahkum edilmiştir. 10. Yıl Affından sonra yurda dönmüştür. 1939 yılında TBMM'nin altıncı döneminde Kastamonu'dan milletvekili seçilmiştir.
İkinci Dünya Savaşı sırasında büyük bir güven kazanarak 1942'de Londra Büyükelçiliği'ne getirilmiştir. Bu görevden de 1944 yılında kendi isteğiyle ayrılmış ve bir daha devlet görevi kabul etmemiştir. 1964 yılında İstanbul'da vefat etmiştir.