В Ростове-на-Дону художественный музей был торжественно открыт 1 мая 1920 года. До 1927 года он существовал как самостоятельный Донской областной музей искусства и древностей. В 1927 году его коллекции были переданы в Краевой музей народов Северного Кавказа, а с 1937 года – в отдел Ростовского областного музея краеведения. Вновь художественный музей получил самостоятельность в 1938 году.Основу музейного собрания составили фонды художественного отдела Ростовского городского музея, картины из бывших Художественных классов, пожертвования местных коллекционеров и произведения из национализированных коллекций В.Ф.Зеелера, С.С.Генч-Оглуева, П.И.Крамера и др.
В 1942 году музейная коллекция была эвакуирована в Пятигорск, который в сентябре того же года был захвачен фашистами. Оккупация продолжалась до января 1943 года, и за это время часть музейных коллекций была разграблена. После войны музейные фонды восстанавливали с помощью пожертвований из ведущих музеев нашей страны.
В настоящее время музей размещается в особняке, построенном в 1898 году архитектором
П.А.Дорошенко, в котором с 1950 по 1993 годы располагался Дом торжественной регистрации новорожденныхВ фондах музея содержится около шести тысяч произведений русской живописи, графики, декоративно-прикладного искусства, а также работы художников Италии 17 века, Фландрии (школа Рубенса), Голландии («малые голландцы») и стран Востока (Китая, Японии, Монголии). Особый интерес представляет каменная скульптура 12 века «Двойники Хэ-Хэ».
Классическое русское искусство представлено полотнами А.Антропова, В.Тропинина, К.Брюллова, И.Айвазовского, И.Крамского, И.Репина, В.Сурикова, В.Поленова и др.
Еще в 1920-е годы сложилась любопытная коллекция искусства начала 20 века, включающая работы И.Левитана, К.Коровина, А.Архипова, Д.Бурлюка, М.Сарьяна, И.Машкова и т.д. Собрание иконописи было заложено в 1971 году, когда в музей передали 42 иконы из Всесоюзного производственно-художественного комбината.В музее собрана обширная коллекция работ советских художников (И.Грабарь, В.Осмеркин, Н,Чернышев, П.Крымов, В.Иванов, Н.Андронов,
П.Оссовский, Т.Назаренко), а также местных донских живописцев.В 2009 году музей получил в свое распоряжение еще одно здание, на улице Чехова, 60. В нем были открыта экспозиция западноевропейского искусства и подготовлен зал, предназначенный для выставок современного искусства. Также в этом здании размещена Детская художественная галерея.
