Павел был старшим сыном в московской купеческой семье Михаила Захаровича и Александры Даниловны Третьяковых. Он родился 27 декабря 1832 года в Замоскворечье, которое традиционно заселялось купеческим сословием. У отца была лавка в Гостином дворе, где он торговал полотняными изделиями. После случившейся в 1848 году в Москве эпидемии скарлатины из детей в семье Третьяковых осталось в живых пятеро.

Старшие Третьяковы, Павел и Сергей с детства приобщались к семейной торговле. В 1850 году, после смерти отца, Пётр Третьяков, как старший сын, взял дело в свои руки. Торговля процветала, расширялась и прирастала производством. К 1866 году на паях с еще двумя купцами Павел и Сергей Третьяковы стали владельцами льняной мануфактуры в Костроме, которая по тем временам была не только оснащена современной техникой, но также обеспечивала своим работникам хорошие (опять же, по тем временам) социальные условия. К концу жизни состояние П. М. Третьякова оценивалось в 3.8 миллиона рублей.

Третьяков женился довольно поздно. В 1865 году его женой стала Вера Мамонтова, двоюродная сестра купца Саввы Мамонтова, известного, как меценат и покровитель искусств.

Вообще русскому купечеству второй половины 19-го века уже было свойственно и меценатство, и активное участие в общественной жизни. Один из примеров – Н. А. Алексеев, который был городским головой Москвы в 1885 — 1893 годах и попечением которого на юго-западной окраине города, в Канатчиковой даче, была построена Алексеевская больница.

Третьяков также попечительствовал различным богоугодным и учебным заведениям. Среди прочего, он участвовал в финансировании экспедиции Николая Миклухо-Маклая в Новую Гвинею.

Коллекцию русской живописи П. М. Третьяков начал собирать в 1850-х годах. Что сыграло здесь главную роль? Собственная ли любовь к искусству, общеевропейская ли мода на собирание коллекций, которая стала распространяться тогда и в России, желание ли сделать творчество русских художников известным всему миру? Скорее всего, и то, и другое, и третье.

22 мая 1856 года Третьяков приобрёл работу Василия Худякова «Стычка с финляндскими контрабандистами», а несколько дней спустя, ещё одну картину, «Искушение» Николая Шильдера. Эти две покупки положили начало знаменитой галерее. Третьяков планировал сделать галерею, во-первых, общедоступной, а во-вторых, полно и объективно освещающей отечественную живопись.

В 1873 году к дому Третьяковых, который уже не вмещал всех картин, пристроили галерею. Галерея, сооружённая в модном тогда псевдорусском стиле, вскоре открылась для свободного посещения. В 1892 году Павел Третьяков передал в дар любимому городу, Москве, и коллекции, и здания, в которых они размещались..