Анатолий Павлович Левитин родился 16 июля 1922 года в Москве. В 1936-1941 годах занимался в средней художественной школе при Всероссийской академии художеств в Ленинграде. В 1941 году призван в Красную Армию, закончил училище зенитной артиллерии. Воевал на Северо-Кавказском фронте в 443-м зенитно-артиллерийском полку старшим техником-лейтенантом. Награждён орденом «Красная звезда», медалями «За оборону Кавказа», «За победу над Германией».
После демобилизации в 1945 году был принят на второй курс живописного факультета Ленинградского института живописи, скульптуры и архитектуры имени И. Е. Репина. Занимался у Бориса Фогеля, Леонида Овсянникова, Лии Островой, Александра Деблера, Александра Зайцева. В 1946 году женился на сокурснице по институту Копытцевой Майе Кузьминичне, с которой прожил в браке 58 лет. В 1951 году окончил институт по мастерской академика Бориса Иогансона. Дипломная работа - картина «Обмен стахановским опытом».
В 1951 году принят в члены Ленинградского Союза художников. Участник ленинградских, республиканских и всесоюзных выставок с 1951 года. Первую большую известность принесло участие во Всемирной выставке в Брюсселе в 1958 году, где его картина «Тёплый день» получила бронзовую медаль. Был отмечен серебряной медалью Академии художеств СССР. Писал портреты, жанровые и исторические картины, пейзажи. В 1963 году был удостоен почётного звания Заслуженный художник РСФСР. В 1975 был избран членом-корреспондентом Академии художеств СССР.
С 1987 года возглавлял живописную мастерскую Красноярского государственного художественного института. В 1980 году был удостоен почётного звания Народный художник РСФСР. Являлся Действительным членом Российской Академии художеств. Также являлся Вице-президентом Академии художеств, председателем отделения «Урал, Сибирь, Дальний восток» Российской Академии художеств (Красноярск). В 1989-1992 годах работы художника с успехом экспонировались на выставках и аукционах русской живописи L' Ecole de Leningrad во Франции.
Произведения Левитина Анатолия Павловича находятся в собрании Государственного Русского музея, в музеях и частных собраниях в России, КНР, Японии, Франции и других странах.
Ушёл из жизни 11 октября 2018 года, на 97-м году жизни.