Родился неподалёку от города Брно на территории Австрийской империи в семье преподавателя гимназии. До 14 лет обучался дома, затем поступил в гимназию. В 1855 году поступил в Венский университет, который окончил в 1860 году с докторской степенью по физике. С 1861 года работал приват-доцентом в Венском университете, а с 1864 года стал профессором физики в Граце. С 1867 года преподавал в Карловом университете в Праге, сначала был профессором физики, а с 1879 года – ректором. С 1882 года был профессором Немецкого университета в Праге, а с 1895 по 1901 года –профессором философии Венского университета.

Маху принадлежит ряд важных физических открытий. Первые его научные работы относятся к оптике и акустике и посвящены изучению процессов слуха и зрения (объяснение механизма действия вестибулярного аппарата, открытие оптического явления — так называемых колец, или полос, Маха). С 1881 года Мах занимался вопросами газовой динамики (одним из основоположников которой он считается). Он изучал аэродинамические процессы, сопровождающие сверхзвуковое движение тел; открыл и исследовал процесс возникновения ударной волны. В этой области именем Маха назван ряд величин и понятий: число Маха, конус Маха, кольца Маха.

Естественнонаучные труды Маха богаты экскурсами в область философии. Философские взгляды Маха получили широкую известность в конце XIX — начале XX веков благодаря содержавшейся в них попытке разрешить кризис в физике с помощью нового истолкования исходных понятий классической (ньютоновской) физики. В духе субъективного идеализма Мах утверждал, что мир есть «комплекс ощущений», соответственно задача науки — лишь описывать эти «ощущения».

В области философии физики Мах предложил принцип, согласно которому наличие у тела инертной массы является следствием гравитационного взаимодействия его со всем веществом Вселенной (принцип Маха).

Мах был противником атомизма: поскольку атомы в то время были недоступны наблюдению, Мах рассматривал их как своего рода гипотезу для объяснения ряда физических и химических явлений, без которой можно обойтись. Он утверждал, что поскольку молекулы являются мыслительными конструктами и их существование не может быть проверено прямым наблюдением, нет никакой необходимости представлять их в пространстве трёх (а не другого, большего числа) измерений. Мах резко выступал против статистической теории, разработанной Л. Больцманом.

Философские идеи Маха - критика понятий абсолютного пространства и абсолютного времени ньютоновской механики и новая концепция инерции послужили важным отправным пунктом при разработке общей теории относительности Эйнштейном.

Мах оказал значительное влияние на становление новой ступени философии неопозитивизма, названной эмпириокритицизмом. Субъективно-идеалистические идеи Маха были подвергнуты резкой критике В. И. Лениным в книге «Материализм и эмпириокритицизм»