1955 yılında Eğirdir'in A.Gökdere köyünde doğan Yılmaz, sırasıyla II.Kovada İlkokulu, Isparta Merkez Ortaokulu Isparta Lisesini bitirdi. 1976 yılında girdiği İstanbul Edebiyat Fakültesi Yakınçağ Tarihi Bölümünden 1980 yılında mezun oldu.
Kırıkkale Sulakyurt Lisesi ve Kastamonu Göl Öğretmen Lisesinde yedi yıl öğretmenlik yaptıktan sonra 1987 yılında Selçuk Üniversitesi Rektörlüğüne bağlı Atatürk İlkeleri ve İnkılap Tarihi Bölümüne okutman olarak atandı. "Konya Vilayetinde Muhacir Yerleşmeleri 1854-1914" adlı doktora tezini tamamladıktan sonra, S.Ü. Fen Edebiyat Fakültesi Bölümüne Öğretim Görevlisi olarak atandı. 1998 yılından itibaren aynı bölümde Yardımcı Doçent Doktor olarak çalışmaktadır.