Родился в 23 декабря 1937 года в селе Глобино Полтавской области Украинской ССР. В 1955 году после средней школы поступил в Днепропетровское Краснознамённое зенитное артиллерийское училище.
В 1957 году по распоряжению Главного штаба Сухопутных войск (Директива от 23.05.57 г. № ОШ/6/244204) училище переводится в Полтаву и переименовывается в Полтавское Краснознамённое зенитное артиллерийское училище. В Полтаве курсанта Соловьева А. Е. ожидало почти полное отсутствие условий для обучения и быта. Как и весь личный состав, он участвовал в восстановлении учебно-материальной базы в бывшем Петровском Полтавском кадетском корпусе, совмещая с учебой.
В 1958 году лейтенант Соловьев А. Е., как выпускник, окончивший обучение по первому разряду (эквивалент теперешней золотой медали), направлен в Рижское высшее Краснознаменное артиллерийское инженерное училище. В этот год оно было переподчинено заместителю Министра обороны по специальному вооружению и реактивной технике и стало готовить ракетчиков для управления новым грозным оружием.
После пяти лет обучения на 1 факультете, выпускник Рижского высшего командно-инженерного Краснознаменного училища лейтенант-инженер Соловьев А. Е. в 1966 году был назначен начальником 4-го отделения стартовой батареи дивизиона учебно-боевого обеспечения училища (Лиласте).
В 1970 году был назначен начальником курса 2-го факультета вместо снятого майора Полтавец. В 1973 году успешно выпустив курс, приступил к набору нашего курса. В период его командования курс обустроил свой быт на 3-м этаже казармы, были заложены основы воинского коллектива, организован учебный процесс.
В 1975 году майор Соловьев А. Е. получил новое назначение - начальник отдела кадров Рижского высшего командного Краснознамённого училища имени Маршала Советского Союза Бирюзова С.С. В 1977 году под его руководством отдел кадров проделал большую работу по переаттестации и назначениям постоянного состава училища в соответствии с новым штатом. Сотрудники отдела в кратчайшие сроки организовали оформление документов по приему и передаче курсантов между Ростовским и Рижским военными училищами.
В 1988 году полковник Соловьев А. Е. был уволен в запас по выслуге лет. После завершения военной службы Анатолий Еремеевич работал преподавателем автодела в ДОСААФ г. Рига, затем организовал свою частную автошколу «Автовираж». В 2001 году он с семьёй переехал в г. Санкт-Петербург. В 2004 году активно участвовал в организации автошколы «Мустанг», в которой работал заместителем директора по учебной части.
Полковник запаса Соловьев Анатолий Еремеевич скоропостижно скончался 18 декабря 2012 года. Его прах находится в колумбарии на Шафировском проспекте г. Санкт-Петербурга.