Первое публичное выступление Антона состоялось в Москве в 1839 году. Он исполнил концерт Гуммеля с оркестром, чем заставил заговорить о себе как о подающем большие надежды маленьком пианисте. Год спустя мальчик в сопровождении Виллуана отправился в Париж, мечтая поступить там в консерваторию, но его не взяли. Однако эта неудача была возмещена знакомствами Рубинштейна с Ференцом Листом, Шопеном и другими знаменитыми музыкантами. Именно Лист посоветовал мальчику поехать в Германию, чтобы там продолжить развивать свой талант. Тот так и сделал: вместе со своим учителем Антон прибыл в Германию, до этого успев посетить Голландию, Англию и Норвегию. Проведя какое-то время в Германии, юный музыкант вернулся в Россию.

В 1844 году мать Рубинштейна, взяв с собой Антона и его младшего брата Николая, поехала в Берлин с надеждой дать детям серьезное музыкальное образование. Там Николай и Антон стали изучать теорию музыки у некоего Дена. Через два года мать с Николаем возвратились в Москву, Антон же пробыл еще какое-то время в Берлине, после чего отправился в Вену.

Жить в столице Австрии ему было нелегко: добывать средства к существованию приходилось уроками музыки, что приносило весьма незначительный доход. В конце концов Рубинштейн перебрался назад в Берлин, а затем и в Россию, где стал протеже великой княгини Елены Павловны, которая помогла ему обустроиться в Петербурге. Здесь он выступает как дирижер, а все свободное время посвящает сочинению произведений. В 1850 году появляется его опера «Куликовская битва» («Дмитрий Донской»), а за ней еще три одноактных оперы: «Месть» («Хаджи-Абрек»), «Сибирские охотники», «Фомка-дурачок».

В 1854 году Рубинштейн совершил новое концертное путешествие по крупным европейским городам, а возвратившись в Петербург, приложил все усилия для того, чтобы в этом городе было учреждено Музыкальное общество. В конце концов так оно и случилось. Далее при обществе основали музыкальные классы, получившие в 1862 году статус консерватории.

Рубинштейна сначала сделали заведующим музыкальной частью общества, а после оформления последнего в консерваторию он стал ее директором и профессором фортепиано. В 1867 году композитор, не поладив со своими коллегами, отказался от должности директора и уехал за границу концертировать. Он объехал практически всю Европу, побывал также в Америке. Вернувшись на родину, Рубинштейн поселился в своем загородном доме в Петергофе, посвятив себя целиком композиции. Однако его безмятежная жизнь продлилась недолго: в сезон 1882 - 1883 годов Рубинштейна пригласили дирижировать симфоническими концертами Русского музыкального общества, а в 1887 году он опять стал директором Петербургской консерватории и оставался на этом посту до 1891 года.

В период 1885 - 1886 годов Рубинштейн выступал с концертами в Петербурге, Москве, Вене, Берлине, Лондоне, Париже, Лейпциге, Дрездене и Брюсселе. В 1888 - 1889 годах он читал лекции в Петербургской консерватории об историческом развитии фортепианной музыки, перемежая их с собственноручным исполнением выдающихся фортепианных произведений различных композиторов.

С 1892 года Рубинштейн жил то за границей, то в России. Он умер в 1894 году в Петергофе.

Творческое наследие композитора составляют сочинения, относящиеся к самым разным музыкальным жанрам. Это увертюры Торжественная, Концертная, «Дмитрий Донской», «Антоний и Клеопатра»; фантазия «Eroica»; музыкально-характеристические картины «Фауст», «Иван Грозный», «Дон Кихот» и «Россия»; балет «Виноградная лоза»; октет для струнных и духовых инструментов; 5 трио (фортепиано, скрипка и виолончель); 10 струнных квартетов; квартет для фортепиано, скрипки, альта и виолончели; 3 квинтета и секстет для струнных инструментов; 5 концертов; Фантазия; 3 сонаты для скрипки и