Анатолий Левченко родился 17 августа 1949 года в селе Мошны Черкасского района Черкасской области.
В 1978 году поступил на службу в органы внутренних дел.
В апреле 1993 года возглавил отряд милиции особого назначения УВД по Пензенской области. За время службы был в десятках командировках на территории Северного Кавказа.
В 1995 году Указом президента РФ награжден орденом Мужества.
Приказами министра внутренних дел РФ награжден медалями «За доблесть в службе», «За боевое содружество», «За отличие в службе» трех степеней, именным оружием, нагрудными знаками «Почетный сотрудник МВД» и «Лучший сотрудник специальных подразделений».
В 2011 году вышел на пенсию в звании полковника милиции.
Возглавлял совет ветеранов отряда милиции особого назначения.