Bazı politikacılar ise; "Hilafet aynı hükümettir, hilafetin hukuk ve görevini iptal etmek hiç kimsenin hiç bir meclisin elinde değildir" diyerek, Halife'yi, Padişah gibi yaşatmak istiyorlardı. Bu durum, halifelik kurumu hakkında bir an önce önlem alınmasını gerektiriyordu. Fakat Mustafa Kemal Paşa'yı halifeliğin kaldırılması için zorlayan önemli sebep, Halife mevcut oldukça Türkiye'de yapılması zorunlu olan sosyal ve laik karakterdeki devrimlerin yapılamayacağı idi.
3 Mart 1924 tarihli, "Hilafetin ilgasına ve Hanedan-ı Osmaniye'nin Türkiye Cumhuriyeti memalik-i hariciyesine çıkarılmasına dair kanun"la hilafet kaldırılmıştır. Hilafetin kaldırılmasının Türkiye'de ve dünyada geniş yankıları olmuştur. Hilafetin kaldırıldığı 3 Mart 1924 günü, bir diğer kanunla da Şer'iye ve Evkaf Vekaleti (Bakanlığı) kaldırılmıştır.
Şer'iye ve Evkaf Vekaleti'nin kaldırılması sonucu, bu vekalet tarafından yönetilen okullar ve medreseler de kaldırılmıştır. Ayrıca aynı gün, Erkan-ı Harbiye-i Umumiye vekaleti de kaldırıldı. Böylece ordu siyaset çatışmasının da önüne geçilmiş oldu. Tevhid-i Tedrisat kanunu da o gün kabul edilmişti.