Александр Терентьевич Алтунин родился в деревне Стеклянка ныне Калачинского района Омской области в семье крестьянина. Русский. Окончил среднюю школу на родине. В Красной Армии с августа 1939 года. Направлен на учёбу в Омское военное пехотное училище, в феврале 1940 года с частью курсантов переведён в только что созданное Новосибирское военное пехотное училище. Окончил его 10 июня 1941 года, к новому месту службы в Харьковский военный округ прибыл 22 июня 1941 года.

Сначала лейтенант Алтунин был назначен заместителем командира минометной роты по политчасти в 162-й стрелковой дивизии 25-го стрелкового корпуса. Через несколько дней дивизия была погружена в эшелоны и направлена на витебское направление. С первых дней июля 1941 года - в боях Великой Отечественной войны в составе Западного фронта, командовал миномётной ротой в оборонительных боях восточнее Витебска, под Ярцевом в Смоленской области. Был тяжело ранен. После выздоровления с сентября 1941 года - командир учебной стрелковой роты Северо-Кавказского военного округа. В ноябре 1941 года стал командиром роты в 157-й стрелковой дивизии Закавказского фронта. В декабре 1941 года в составе дивизии высадился в первом эшелоне десанта в Феодосию в ходе Керченско-Феодосийской десантной операции, через три дня упорных наступательных боёв был вновь тяжело ранен. В период нахождения в госпитале заболел тифом.

После выздоровления с апреля 1942 года - командир учебной пулеметной роты в составе Приволжского военного округа. На фронт вернулся только в ноябре 1943 года, офицер оперативного отдела стрелковой дивизии в составе 11-й армии 1-го Белорусского фронта. Участвовал в Гомельско-Речицкой наступательной операции. С марта 1944 года - командир стрелкового батальона в составе 3-й гвардейской армии на 1-м Украинском фронте. В ходе Львовско-Сандомирской операции батальон капитана Алтунина отличился при прорыве обороны врага и освобождении города Владимир-Волынский. 29 июля 1944 года во главе батальона переправился через Вислу у села Доротка в Польше, захватил плацдарм. Умело организовав оборону, свыше 40 дней вёл бой на плацдарме, отвлекая силы противника от основного Сандомирского плацдарма. В сентябре 1944 года уцелевшие 40 бойцов во главе в Алтуниным по приказу командования оставили плацдарм и соединились с основными силами. За эту операцию капитану Алтунину присвоено звание Героя Советского Союза, а также его были удостоены ещё три бойца из его батальона.

С ноября 1944 года - заместитель командира стрелкового полка, тогда же ему было присвоено воинское звание майор. Участвовал в Висло-Одерской и Нижне-Силезской наступательных операциях компании 1945 года. В марте отозван с фронта для учёбы в академии.

В 1948 году окончил Военную академию имени М.В. Фрунзе. В 1948-1955 годах служил в частях Туркестанского военного округа в городе Термезе, был помощником начальника и начальником оперативного отделения штаба стрелковой дивизии, начальником штаба стрелковой дивизии. В 1957 году окончил Военную академию Генерального штаба. Продолжал службу в Белорусском военном округе - с января 1958 года - заместитель командира, с конца того же года - командир мотострелковой дивизии. Генерал-майор (1960). Несколько лет служил в Генеральном штабе Вооружённых сил СССР. С 1966 года - командующий армией. С июня 1968 года - командующий войсками Северо-Кавказского военного округа.

С октября 1970 года - начальник Главного управления кадров Министерства Обороны СССР. С 1972 года - начальник Гражданской обороны СССР - заместитель Министра обороны СССР. Воинское звание генерал армии присвоено 16 февраля 1977 года.

В 1986 году произошла Авария на Чернобыльской АЭС, которая вскрыла неготовность войск Гражданской обороны СССР к оперативным действиям по ликвидации масштабных техногенных и природных катастроф. В СССР главной задачей Гражданской обороны всегда являлась подготовка к действиям на случай масштабной войны с применением ядерного оружия. Хотя такое положение дел сложилось задолго до Алтунина и на самом высшем уровне - он был обвинён в выявленных недостатках Гражданской обороны, снят с должности и назначен военным инспектором-советником в Группе генеральных инспекторов Министерства Обороны СССР.

Член ЦК КПСС с 1976 года. Депутат Верховного Совета СССР 8-11-го созывов (1970-1989). Жил в Москве. Умер 15 июля 1989 года в столице. Похоронен на Новодевичьем кладбище. Автор мемуаров.