Yaşamı boyunca insanlara bir şeyler katmak için çabalayan, kimsenin kalbini kırmayan güler yüzlü Naim Hoca'nın esprileri ve kendine özgü anlatımı, her kesim tarafından kabul görürdü.
Naim Gölleroğlu'nun ailesi, tarihe 93 Harbi olarak geçen 1877-1878 Osmanlı Rus Harbi sırasında veya sonrasında Ahıska taraflarından Kars ve Hasankale yoluyla Erzurum'a gelmişlerdir. Erzurum'un Mehdi Efendi Mahallesi Gümüşgöz sokağına yerleşen bu yoksul ailenin ikinci kuşağı sayılan Sabri Efendi ile Nuşire Hanınım ikinci çocuğu olan Naim, 1925 (rumi 1341); yılında bu mahallede doğdu. Sabri Efendi, geçimini sağlamak için evlerin damlarına çekilecek olan toprağı öküz arabasıyla getirip ev sahiplerine satardı; bu nedenle Arabacı Sabri olarak tanınmıştı.
Ailenin ilk çocuğu olan Salih, okula gitmesine rağmen, evlerinin tek geçim kaynağı olan babaları Sabri Efendinin ölümü nedeniyle Naim okula gönderilemedi. Dokuz yaşına gelen Naim, ailenin geçimine katkıda bulunabilmesi amacıyla, Tebrizkapı'da berberlik yapan ve mahalleden de komşuları olan Mustafa Usta'nın yanına çırak olarak verildi.
Erzurum'lu Naim Hoca Zeynel Camii'nde imamlık ve vaizlik yaptı. Sadece namaz kıldıran ya da vaaz verip sonra da evine giden bir din görevlisi değildi. Sosyal yönü çok kuvvetli, dışa dönük ve renkli bir simaydı.
Öncelikle nüktedandı, şairdi, sözünü esirgemeyen bir yapısı vardı. Bilgili, kültürlü, gösterişten uzak yaşar, mütevazılığı ile dikkat çekerdi. Namazı seri kıldırır, vaazları ile gönüllere kaçırmaz hatta ilk sıralarda oturur izlerdi. Statta, tiyatroda en önde otururdu. Erzurumspor maçlarına özel bir ilgisi vardı. Hoca, belki de mavi- beyazlı takımın kendi sahasında oynadığı tüm maçlara gitmiştir. Maçlarda ağızlığa takılı sigarasını elinden düşürmezdi.
Hatta Naim Hoca, Namazın kazası olur ama maçın, tiyatronun olmaz diyen ender kişilerden biriydi. 1995 yılında Naim Hoca, Türkiye Milli Olimpiyat Komitesinin önerisiyle Litvanya'da Fair Play ödülü alan ilk din adamı oldu.
1999'da vefat etti. Cenazesini siyasetçiler, generaller, işadamları polisler omuzlarında taşıdılar.