Иван Михайлович Губкин родился 21 сентября 1871 года в селе Поздняково Муромского уезда Владимирской губернии в семье крестьянина. Неграмотные родители И. М. Губкина считали излишним обучать грамоте своего сына. Лишь благодаря настоянию бабушки  Федосьи Никифоровны  его отдали учиться в сельскую школу. На блестящие способности мальчика обратили внимание учитель школы и инспектор народных училищ, которые помогли ему по окончании школы поступить в Муромское уездное училище, а затем в учительскую семинарию. За стипендию, которую он в семинарии, И. М. Губкин обязан был прослужить пять лет народным учителем. В 1895 году Губкин смог поступить в Петербургский учительский институт, который он блестяще окончил и стал преподавателем гимназии.

Осенью 1903 года он выдержал экзамен по конкурсу и был принят в число студентов Горного института. Окончил  он его с отличием  в возрасте сорока лет, что, конечно, было очень поздно. По окончании института И. М. Губкин работал на Кубани в экспедиции по поиску нефти.

Работы по генезису нефтяных месторождений и по грязевому вулканизму снискали И.М. Губкину мировую славу.  Исключительно велики заслуги И. М. Губкина по созданию "Второго Баку" Советского Союза.       

В 1930 году в Москве под председательством И. М. Губкина проходит первый съезд геологов-нефтяников, наметивший широкую программу геологических исследований Урало-Поволжья.

Много внимания уделял И. М. Губкин решению проблемы Курской магнитной аномалии. С 1784 года было известно, что близ Курска магнитное отклонение превышает нормальное. Он возглавлял комиссию по изучении Курской магнитной аномалии. За открытие колоссальных запасов железных руд  коллектив Комиссии по исследованию аномалии был награждён орденом Трудового Красного Знамени.  

В 1928 году И. М. Губкин был избран действительным членом Академии наук СССР.

Скончался Иван Михайлович Губкин 21 апреля 1939 года.