Родился 11 декабря 1953 года в Москве. Отец был участником Великой Отечественной войны, в декабре 1943 года на Карельском фронте потерял ногу и после излечения в сентябре 1945 года уволился из рядов Советской Армии. В 12 лет Макаревич начал самостоятельно заниматься игрой на гитаре. С детства увлекался музыкой Булата Окуджавы и Владимира Высоцкого.Сочинял стихи, играл на гитаре дворово-костровые и бардовские песни.

В 1966 году познакомился с музыкой группы «The Beatles» и, по собственным словам, стал битломаном, как и некоторые из его сверстников, что и определило его дальнейшую судьбу. В 1969 году вместе с одноклассниками-битломанами Александром Ивановым, Павлом Рубиным, Игорем Мазаевым и Юрием Борзовым (вскоре к ним примкнул друг детства Борзова Сергей Кавагоэ, учившийся на этой же параллели в другой московской школе) была организована группа «Машина времени», существующая по сей день. С этой группой связана практически вся дальнейшая жизнь и творческая деятельность Андрея Макаревича. По сей день он является руководителем группы, её «лицом», основным автором текстов, а также композитором и исполнителем значительной части песен.

После окончания школы в 1971 году поступил в Московский архитектурный институт, откуда в 1974 году был отчислен (официально — «за несвоевременный уход с работы на овощной базе», фактически — по закрытому распоряжению одной из партийных инстанций, из-за не одобряемых занятий рок-музыкой), после чего устроился на работу архитектором в Гипротеатр («Государственный институт проектирования театров и зрелищных сооружений») где работал до 1979 года, в 1975 году восстановился в МАРХИ на вечернем отделении, окончил его в 1977 году с дипломом художника-графика и архитектора. Тем не менее, основным занятием всё это время была работа с «Машиной времени».

В 1979 году с «Машиной времени» подписал контракт Росконцерт, что придало группе легальный статус, и с этого момента Макаревич, уволившись из Гипротеатра, официально стал музыкантом и исполнителем. В последующие годы много гастролировал в составе группы по СССР, снимался (вместе с группой) в фильмах Александра Стефановича «Душа» (1982) и «Начни сначала» (1986) (в последнем сыграл главную роль).

С 1982 по 1996 время от времени выступал с сольными концертами в типичной «бардовской» манере — без сопровождения других музыкантов, с одной акустической гитарой, — на которых исполнял собственные песни, не предназначенные для «Машины времени». Песни «Вагонные споры» (1984), «Он был старше её» (1996) и многие другие Андрей исполнял на концертах.

Весной 1985 года Андрей выступил с концертом в Ленинграде, где же исполнил все свои хиты — от «Морского закона» до «Вагонных споров». В этом же году сочетал в своём творчестве рок «Машины времени» с акустической бардовской песней. Уже в 1990-х годах участвовал в записи альбомов группы «Квартал», продюсировал альбом Юза Алешковского «Окурочек». Выпустил несколько сборников своих стихотворений и две биографические книги воспоминаний. 

В августе 2001 года организовал проект «Оркестр креольского танго», играет джаз, блюз, босса-нову, румбу, свинг и шансон. «Оркестр креольского танго» собрал музыкантов из самых разных коллективов — из «Машины времени», «Квартала», «Папоротника», «Игорь Бойко Бэнда» и некоторых других.

Cо своим проектом «Джазовые Трансформации», вместе с «трио Евгения Борца» и Ирины Родилес, Андрей Макаревич выступает в джаз-клубе «Союз Композиторов»[22]. Выступает на блюзовых джем-сейшнах со своим старым приятелем Алексеем White Беловым из группы «Удачное приобретение». Президент фестиваля Сотворение мира.