1950 yılında Karabük'te doğdu. İstanbul Üniversitesi Hukuk Fakültesi'ni bitirdikten sonra'bir süre serbest avukat olarak çalıştı. 20. ve 21. dönem İstanbul Milletvekili olarak TBMM'inde görev aldı.
2002 seçimlerinde Adalet ve Kalkınma Partisi'nden'milletvekili seçildi. Devlet Bakanı (Spor'dan Sorumlu) ve Başbakan Yardımcısı olarak görev yaptı. Adalet ve Kalkınma Partisi'nde Grup Başkanvekilliği görevinin yanı sıra Adalet Komisyonu üyeliğinde de bulundu.
2007 seçimlerinde yine Adalet ve Kalkınma Partisi'nden milletvekili seçilen Mehmet Ali Şahin, Adalet Bakanı olarak görev yaptı.
TBMM Başkanı'olan Şahin, evli ve 4 çocuk babasıdır.
