Румкорф родился в Ганновере. После обучения у местного механика, он перебрался в Англию. В 1855 году Румкорф открыл магазин в Париже, где продавал электрическое оборудование, которое прославилось высоким качеством.

Индукционная катушка для получения импульсов высокого напряжения называется катушкой Румкорфа, хотя на самом деле её изобрёл Николас Каллан в 1836 году. Румкорф запатентовал аналогичную катушку в 1851 году и начал её продавать, благодаря чему она получила его имя. При изготовлении этой катушки он применял длинные обмотки из медного провода, поэтому катушка Румкорфа давала искру длиной приблизительно 2 дюйма (50 мм). В 1857 году американский изобретатель Эдвард Сэмюэль Ричи улучшил дизайн аналогичного устройства, применив стеклянную изоляцию и некоторые другие инновации, после чего выходное напряжение повысилось, о чём свидетельствовало увеличение длины искры до 30 сантиметров. 

Румкорф запатентовал первую версию своей индукционной катушки в 1851 году, и ее успех был таков, что в 1858 году он стал первым лауреатом премии Вольта, награды в 50 000 французских франков Наполеона III за одно из самых важных открытий в области применения электричества. Он умер в Париже в 1877 году.