Bir dostunun kendisinden naklen anlattığına göre Gazali, beş yıl süren öğreniminden sonra bir kafile içinde Tus'a dönerken soyguncular tarafından yolları kesilir ve her şeyleri alınır. Gazali eşkıyanın peşine düşer ve reislerinden hiç olmazsa ders notlarının geri verilmesini ister; Cürcan'a sırf o notlardaki bilgileri edinmek için gittiğini söyler. Eşkıya reisi, bilgileri hafızasına yerleştirmek yerine kağıtlarda bırakmasından dolayı onunla alay eder, notlarını da geri verir. Bu eleştiriyi Allah'ın bir ikazı sayan Gazali üç yıl içinde notlarının tamamını ezberler.
Kaynaklarda, Gazali'nin olağanüstü bir zeka ve hafızaya sahip olduğu ittifakla belirtilir. On iki yıllık öğrenimi boyunca başta fıkıh olmak üzere hadis, akaid, gramer gibi geleneksel bilgi dallarında derinlemesine yetişmiştir. Ayrıca Gazali, Nizamülmülk'ün himayesinde seçkin alimlerle tanışarak onlardan istifade etmiştir. Nizamülmülk, ise Sünni yönetime karşı baş kaldıran ve İslam dünyası için büyük tehlike oluşturan batınî hareketini durdurmak için Gazali'yi önemli bir eleman olarak gördü. Nizamülmülk'ün himayesinde 6 yıl kalan Gazali bu süre içinde ününü de artırdı.
Gazali'nin kelam, felsefe, Batınîlik ve tasavvuf hakkındaki çalışmalarının kendisini ulaştırdığı sonuç, onun zihin ve ruh dünyasında kelimenin tam anlamıyla bunalıma yol açtı. Bağdat Nizamiye Medresesi'nin 'şöhreti ve saygınlığı neredeyse uluların, emirlerin ve hilafet merkezinin ününü bile geride bırakan' bu büyük müderrisinin dışarıdan bakıldığında son derece başarılı ve mutlu görünen hayatı gerçekte gün geçtikçe için için büyüyen şüphelerle, fikri bunalımlarla altüst oluyordu.
Ahlaki bakımdan da kendini sorguluyor, öğretimdeki niyetinni tamamıyla Allah rızası olmadığını, makam ve şöhret arzusunun da bulunduğunu fark ediyordu. Gazali, bu yüzden defalarca Bağdat'tan ayrılmaya niyet ettiyse de nefsiyle 6 ay boyunca mücadele etmek zorunda kaldı. Bu hal onda hastalığa sebep oldu. Tedavide başarılı olamayan doktorlar hastalığın psikolojik olduğu kanaatine vardı.
NihAyet duası kabul edilerek gönlünün makam, mal, evlat ve dostlardan ayrılmaya rıza göstermesi üzerine Bağdat'la olan bütün ilişkilerini kesmeye karar verdi. Ailesine yetecek miktardan fazla olan bütün malını muhtaçlara dağıttı. 1095'te medresedeki görevini kardeşine devrederek Bağdat'tan ayrıldı.
Şam'a giden ve iki yıla yakın bir süre orada kalan Gazali, Emeviyye Camii'ne çekilerek nefsini terbiye etmek, ahlakını güzelleştirmek ve kalbini arındırmak için riyazet ve mücahede ile meşgul oldu. Bir süre Kudüs'te kaldı.
Ardından hac farîzasını yerine getirmek, Mekke ve Medine’nin bereketlerinden nasibini almak ve Resûlullah’ı ziyaret etmek düşüncesiyle Hicaz’a gitti. Daha sonra vatan hasreti ve çocuklarının daveti onu memleketine çekti.
Gazali'nin halvet dönemi yaklaşık on bir yıl sürdü. Kendisine 'saymakla bitirilemeyecek durumları' keşfetme imkanı veren bu dönem hakkında yeterince bilgi yoktur.
1106'da Nişabur'a dönen Gazali, Nizamiye Medresesi'nde tekrar örğtemi görevine başladı. İkinci hocalık dönemini, "O zaman mevki kazandıran ilmi öğretiyordum; şimdi ise mevki terk ettiren ilme çağırıyorum" sözleriyle açıkladı.
Sağlık sorunları ve yeniden halvete çekilme isteği nedeniyle Gazali'nin ikinci hocalık dönemi 3 yıl sürdü. 1109'da Tus'a döndü. Evinin yanına fukaha için medrese, sufiyye için de hankah yaptıran Gazali ömrünün son demlerini ders okutmak, gönül ehlinin sohetlerine katılmak ve eser yazmakla geçirdi.
Gazali, 1111 yılında vefat etti. Tus'ta ünlü şair Firdevsi'nin mezarının yakınına defnedildi. Günümüzde burada bulunan yapı halk arasında Hârûniyye adıyla anılmakta ve bunun bahçesinde yer alan bir kabir Gazzâlî’nin mezarı olarak gösterilmektedir.
