25 Haziran 1961'de Ordu Aybastı'da doğdu. Babasının adı Ali, annesinin adı Medine'dir. İş Adamı ve Danışman; Bakû Odlar Yurdu Üniversitesi İktisat Bölümü'nü bitirdi. Uzun yıllar Fransa'da ticaretle uğraştı ve değişik insani kuruluşlarda Başkan olarak görev aldı. Enerji ve Tabiî Kaynaklar Bakanlığı'nda Bakan Danışmanlığı görevinde bulundu. Çok iyi düzeyde Fransızca bilen Yılmaz, evli ve 6 çocuk babasıdır. 22 Temmuz 2007 Genel seçimlerinde AKP'den Ordu milletvekili seçilmiştir.