Родился в небольшом городке Осер в Бургундии в многодетной семье портного. Остался сиротой в возрасте восьми лет. Интересно, что двоюродный дед Жана-Батиста Фурье был известным религиозным деятелем, впоследствии канонизированным. Он успешно учился в военной школе при монастыре бенедиктинцев, и в 13 лет заинтересовался математикой и проявил большие способности при изучении этой науки.

Фурье хотел быть офицером: артиллеристом или военным инженером, но в военное училище его не приняли из-за незнатного происхождения. Молодой человек хотел избрать духовную карьеру, но раздумал и в 1789 году отправился в Париж. .

Но в 1789 году началась революция, и Фурье вернулся в родной город, где стал преподавать в школе, которую сам когда-то закончил. До февраля 1793 года Фурье старался политикой не заниматься, но в марте 1793 года он стал членом местных органов власти. В 1794 году  побывал в Париже, где встречался с Робеспьером и, как оказалось, зря. Когда после этой встречи, он возвратился в родной город, его арестовали, и он чудом избежал казни, поскольку в Париже произошёл переворот, в результате которого Робеспьер был арестован и казнён.

30 октября 1794 года декретом Конвента в Париже была организована Нормальная школа, где Республика собиралась готовить школьных учителей. Фурье начал учиться в этом учебном заведении, где преподавали ведущие французские учёные: Лагранж, Лаплас, Монж, Бертолле. Впрочем, занятия продлились всего несколько месяцев. Однако в конце мая 1795 года Фурье уже смог получить должность в самом лучшем учебном заведении того времени, Политехнической школе. Что, впрочем, не избавило его от очередной посадки в тюрьму, на этот раз, как должностного лица, исполнявшего свои обязанности при власти Робеспьера. На этот раз арест продолжался недолго, два месяца. В августе 1795 года Фурье вышел на свободу, а 1 сентября 1795 года Фурье вновь начал работать в Политехнической школе, которая занималась подготовкой военных кадров. Через два года он уже заведовал кафедрой анализа и механики. 

С 1798 по 1801 год Фурье с рядом других учёных участвовал в походе Наполеона в Египет, а затем вплоть до 1814 года состоял на государственной службе, будучи префектом департамента и находясь в Гренобле. После окончательного свержения Наполеона в июле 1815 года Фурье вернулся в Париж. Здесь он работал некоторое время директором Статистического бюро, а в 1817 году стал академиком.

Умер Фурье 16 мая 1830 года в Париже.