Йозеф Х. Пилатес родился 9 декабря 1883 года в промышленном городе Гладбах (ныне известный как Мёнхенгладбах) в Западной Германии. Он был вторым из девяти детей в семье. Его отец - Фридрих Пилатес был по профессии слесарем (или механиком), мать - Хелена Пилатес была домохозяйкой. Йозеф был вторым из девяти детей Фридриха и Хелены. Он рос болезненным ребёнком, страдал от астмы, рахита и ревматической лихорадки. Однако благодаря интенсивным физическим упражнениям сумел значительно поправить здоровье и стать профессиональным спортсменом и преподавателем физической культуры.

С 1912 года Пилатес работал в Англии, профессионально занимался боксом, бодибилдингом, тренировал боксеров и самооборону полицейским, в том числе в Скотланд-Ярде. С началом Первой мировой войны был интернирован на острове Мэн и в период вынужденной бездеятельности интенсивно работал над оформлением своего опыта в определённый метод, помогая раненым солдатам возвращаться к жизни. В 1926 году эмигрировал в США и вместе с женой Кларой (с которой он познакомился на корабле, во время иммиграции) открыл независимую школу здорового образа жизни, обучая собственному методу, названному им контрологией (англ. Contrology), поскольку одной из основных идей Пилатеса (унаследованных отчасти из йоги) была концепция мысленного контроля над работой мышц.

Среди непосредственных учеников Джозефа Пилатеса был, в частности, артист Джордж Баланчин. И, кстати, именно артисты способствовали расширению популярности пилатеса после смерти его изобретателя.