Город (с 1927 года) в Алтайском крае расположен на юге края. Административный центр Рубцовского района, в состав которого не входит. Образует городской округ город Рубцовск как единственный населённый пункт в его составе. До распада СССР был крупным машиностроительным центром Западной Сибири.

Основан в 1886 году отставным солдатом Михаилом Рубцовым как посёлок Рубцово близ сёл Оловянишниково и Половинкино. В 1892 году, считающимся годом основания города, жители получили разрешение на пользование землёй. В 1901 году присвоен статус посёлка, а его крестьянам был выдан отдельный земельный надел. В 1906 году построена Михайло-Архангельская церковь, благодаря чему Рубцово получило статус села и возможность проводить ярмарки. В 1913 году рядом возник одноимённый станционный посёлок, строившейся Алтайской железной дороги, впоследствии ставшей частью Туркестано-Сибирской магистрали. До Первой мировой войны действовали свечной завод, мельница, строившаяся ветка Сибирской железной дороги Новониколаевск — Семипалатинск, возводились здания паровозного депо, вокзала, водонапорной башни и других объектов инфраструктуры железнодорожной станции.

Город сформировался и получил значительное развитие во время Великой Отечественной войны, чему способствовала эвакуация ряда предприятий из европейской части СССР: Одесского завода сельскохозяйственного машиностроения и Харьковского тракторного завода, которые положили начало Алтайскому тракторному заводу (АТЗ). В 1950-е годы Алтайский тракторный завод по количеству выпускаемой продукции перегнал Сталинградский тракторостроительный завод.

В Рубцовске расположены 4 исправительных колонии, в каждой из которых содержится около 1 тысячи заключённых. С января 2017 года в ИК-5 Рубцовска отбывал наказание гражданский активист Ильдар Дадин.