Küçük Mustafa öğrenim çağına gelince Hafız Mehmet Efendi’nin mahalle mektebinde öğrenime başladı, sonra babasının isteğiyle Şemsi Efendi Mektebi’ne geçti. Bu sırada babasını kaybetti (1888). Bir süre Rapla Çiftliği’nde dayısının yanında kaldıktan sonra Selânik’e dönüp okulunu bitirdi. Selânik Mülkiye Rüştiyesi’ne kaydoldu. Kısa bir süre sonra 1893 yılında Askeri Rüştiye’ye girdi. Bu okulda Matematik öğretmeni Mustafa Bey adına “Kemal” i ilave etti. 1896-1899 yıllarında Manastır Askeri İdâdi’sini bitirip, İstanbul’da Harp Okulunda öğrenime başladı. 1902 yılında teğmen rütbesiyle mezun oldu. Harp Akademisi’ne devam etti. 11 Ocak 1905′te yüzbaşı rütbesiyle Akademi’yi tamamladı. 1905-1907 yılları arasında Şam’da 5. Ordu emrinde görev yaptı. 1907′de Kolağası (Kıdemli Yüzbaşı) oldu. Manastır’a III. Ordu’ya atandı. 19 Nisan 1909′da İstanbul’a giren Hareket Ordusu’nda Kurmay Başkanı olarak görev aldı. 1910 yılında Fransa’ya gönderildi. Picardie Manevraları’na katıldı. 1911 yılında İstanbul’da Genel Kurmay Başkanlığı emrinde çalışmaya başladı.
