Родился в посёлке Брингетофт 21 июня 1849 года в фермерской семье.

Техническое образование получил в технической школе города Бурос, которую окончил в 1871 году, после чего работал на различных предприятиях чертёжником. В 1875 году Бринелль стал инженером на металлургическом заводе в Лешёфорсе, а в 1882 году — главным инженером на заводе в Фагерсте. С 1903 года в течение 11 лет был главным инженером Шведского союза металлургической промышленности и редактором специального журнала.

Бринелль произвёл новаторские работы по фазовым превращеням, происходящим в стали в процессе нагревания и охлаждения. Работая в Фагерсте, Бринелль провел обширные исследования структуры стали в процессе нагревания и охлаждения, результаты которых привлекли к себе большое внимание. Исследования Бринелля о свойствах сталей была представлены на Стокгольмской выставке в 1897 году и на Всемирной выставке в Париже в 1900 году. Открытия Бринелля в области управления углеродсодержащими фазами до сих пор являются основой современного металловедения стали.

Стал известен благодаря разработке статического метода определения твёрдости, который и поныне широко применяется в промышленности. По методу Бринелля, предложенному в 1900 году, в материал под определённой нагрузкой (обычно 30 кН) вдавливается твёрдый металлический шарик (обычно диаметром 10 мм). Отношение приложенной нагрузки к площади шаровой поверхности отпечатка даёт число твёрдости по Бринеллю, которое обозначается HB.

Обладая очень примитивным оборудованием, полагаясь больше на свои глаза и опыт, Бринелль много лет продолжал свои исследования и достиг результатов, которые оказали большое влияние на мировую промышленность.

В 1880 году Бринелль женился на Сельме Юсефине Элисабет Нильсон. У них было пятеро детей.

Бринелль был избран членом Шведской королевской академии наук в 1902 году, и Шведской королевской академии инженерных наук в 1919 году.

Умер 17 ноября 1925 года в Стокгольме.