Okul çağına gelen Mustafa’nın öğrenimine hangi okullarda başlayacağı konusu ailede küçük bir tartışmaya neden oldu. Ailesinde din adamlarının bulunmasıyla gururlanan Zübeyde Hanım, Mustafa’nın da onlar gibi olması gerektiğini düşünüyor ve bu nedenle dini eğitim veren mahalle mektebine gitmesini istiyordu. Oğluna ‘Adam olmak için okumak, öğrenmek şarttır; başka çare yoktur diye öğüt veren Ali Rıza Efendi ise Mustafa’yı Selanik’te yeni açılan, modern öğretim yöntemlerinin uygulandığı Şemsi Efendi ilkokuluna göndermek istiyordu. Atatürk bu konuyla ilgili şunları anlatır:
“Annemle babam arasındaki anlaşmazlık epeyce sürdü. Araya hatam Emine Hanım da girdi. Pek mühim bir meseleymiş gibi diğer akrabalar da işe karıştılar. Fakat benim fikrimi soran olmadı. Nihayet bir çaresi bulundu. Önce ilahilerle mahalle mektebine başladım. Bu surette anamın dediği oldu. Birkaç gün sonra da oradan çıkarak Şemsi Efendi’nin Mektebine kaydedildim. Babam da memnun kaldı.”
Mustafa, Şemsi Efendi ilkokulunda öğrenimini sürdürürken babası Ali Rıza Efendi hayatını kaybetti. Bu olay üzerine Zübeyde Hanım çocuklarıyla birlikte Selanik yakınlarındaki bir çiftlikte çalışan ağabeyinin yanına gitmek zorunda kaldı. Ancak oğlunun okuldan uzak kalmasına gönlü razı olmadığı için bir süre sonra onu Selanik’te bulunan teyzesinin yanına gönderdi. Mustafa önce Selanik Mülkiye Rüştiyesine başladıysa da bu okula pek ısınamadı. Çünkü o, asker olmak istiyor ve Askeri Rüştiyenin Selanik sokaklarında gördüğü üniformalı öğrencilerine imrenerek bakıyordu. Annesi ise onun askeri okula gitmesine karşı çıkıyordu.
“Annesine haber vermeden Selânik Askeri Rüştiyesinin giriş sınavlarına katılmayı başardı. Sınava çok sıkı çalışmıştı. Girdi, kazandı ve böylece Zübeyde Hanım’ı bir olupbitti ile karşı karşıya bıraktı. Ama yine de okula yazılabilmesi için annesinin imzalı iznini alması gerekiyordu. Mustafa, annesine, babasının doğumunda ona bir kılıç armağan etmiş ve bu kılıcı, beşiğinin boş ucuna, duvara asmış olduğunu hatırlattı. Bunun tek bir anlamı olabilirdi: Babası, Mustafa’nın bir asker olmasını istemişti. Mustafa bir kahraman tavrı takınarak annesine, ‘Ben asker olarak doğdum.’ dedi, Asker olarak öleceğim.’ Zübeyde Hanım yumuşamaya başlamıştı. Sonunda annesi de ona hakkını helal etti. Böylece Selânik Askeri’ Rüştiyesine girmiş oldu.”
Selanik Asker? Rüştiyesi o dönemde disiplinli ve üstün öğretimi ile tanınmış bir okuldu. Mustafa, bu okulda, özellikle matematik dersindeki başarısıyla kısa zamanda öğretmenlerinin dikkatini çekti. Bunlardan Matematik Öğretmeni Yüzbaşı Mustafa Bey bir gün ona “Senin de adın Mustafa, benim de. Arada bir fark olmalı. Senin adının sonuna bir de Kemal koyalım.” diyerek ona “olgun” anlamına gelen Kemal ismini hediye etti.
Mustafa Kemal 1896 yılında Selanik Askeri’ Rüştiyesini bitirdikten sonra öğrenimine Manastır Asker? İdadisinde devam etti. Onun matematiğe olan ilgisi bu okulda da sürdü. Ayrıca sınıf arkadaşı Ömer Naci’nin etkisiyle edebiyata ve hitabet sanatına da ilgi duymaya başladı. Hatta şiir yazma denemelerinde bulundu. Ancak öğretmenlerinin, şiirin onu askerlikten uzaklaştıracağı yönündeki uyarıları üzerine bu hevesten vazgeçti. İdadide Mustafa Kemal’in ilgisini en fazla çeken derslerden biri de tarih idi. Onda hayatı boyunca devam edecek olan tarih sevgisinin oluşmasında Tarih Öğretmeni Kolağası Mehmet Tevfik Bey’in önemli rolü oldu. Bu arada Fransızcasını geliştirmeye önem veren Mustafa Kemal, Selanik’e gittiği tatil zamanlarında Fransızca dersleri aldı.
Mustafa Kemal, Manastır Askeri İdadisini bitirdikten sonra 1899 yılında İstanbui’da bulunan Harp Okuluna başladı. 1902 yılında teğmen rütbesiyle bu okuldan mezun oldu.
Harp Okulunu üstün dereceyle bitirmesinden dolayı Harp Akademisine girmeye hak kazanan Mustafa Kemal, 1905 yılında Akademiden kurmay yüzbaşı rütbesiyle mezun oldu. 0 artık zekası, yetenekleri ve üstün kişiliği ile çevresindekilerin takdirini kazanmış idealist bir Türk subayı idi.