Donanma hekimi Stepan Yakovlevich Gumilyov ve Anna Ivanovna L 'vova'nın oğlu olarak Kronstadt'ta doğdu. Çocukken lakabı şahin pençesiyd. Simgeci şairi Innokentiy Annensky'in, öğretmeni olduğu Tsarskoe Selo gymnasiumda okudu. Sonra, Gumilyov, şiiri yazmak için kendisini teşvik edenin Annensky olduğunu söyedi. 8 Eylül 1902'de ilk yayını I run from cities into forest (Rusça: Я в лес бежал из городов) isimli şiiriydi. 1905'de ilk şiir kitabı The Way of Conquistadors yayımlandı. Çad zürafalarından, Caracalla timsahlarına kadar konuları en fazla hayal edilebilen egzotik şiirlerdi. Gumilyov kitabıyla gurur duyduğu halde, eleştirmenler tekniği çok saçma buldular. Daha sonra deneyimsiz kişilerin şiirleriyle ilgilendi.

1907 ve sonrasında Nikolay Gumilyov özellikle İtalya ve Fransa olmak üzre kapsamlı bir şekilde Avrupa'ya yolculuk yaptı. 1908'de yeni toplaması Romantic Flowers ortaya çıktı. Paris'te kaldığı süre içerisinde edebi dergi Sirius'u yayımladı fakat sadece üç sayı sürdürebildi. Rusya'ya döndüğünde edebi sürekli yayın Apollon'a katkıda bulundu. O dönemde aslında varolmayan Cherubina de Gabriak'a aşık oldı. Gabriak'in aslında iki insan için edebi bir lakap olduğunu öğrendi. Biri engelli bir öğretmen diğeri ise Maximilian Voloshin'di. Bu mesele yüzünden 22 Kasım 1909'da Voloshin ile bir düello yaptı.

Önceleri Flaubert ve Rimbaud'u beğenen Gumilyov, Afrika'yla büyülendi ve neredeyse her yıl orayayolculuk yaptı. Etiyopya'da aslan avladı, St. Petersburg Müzesinin antropoloji ve etnografya bölümü için Afrikalıların el işlerinden örnekler getirdi. Afrika temalarından oluşan Tent (1921) isimli derlemesi şiirinin dönüm noktasıydı.