Родился 20 августа 1937 года в семье писателя Сергея Владимировича Михалкова и поэтессы и переводчицы Натальи Петровны Кончаловской. Названный с рождения Андреем, в самом начале творческой деятельности молодой режиссёр стал именовать себя Андрон, а также принял двойную фамилию — Михалков-Кончаловский. В 1997 году в наградном указе Президента РФ фамилия указана как Михалков (Кончаловский). С середины 1990-х годов постепенно, а после смерти отца, С.В.Михалкова, в 2009 году окончательно утвердилось именование Андрей Сергеевич Кончаловский, о чём сообщает официальный сайт режиссёра.

Детство прошло в семейном «поместье» Михалковых на Николиной Горе в ближнем Подмосковье.

Окончил Центральную музыкальную школу (1952) и Музыкальное училище при Московской консерватории (1957). Учился в Московской государственной консерватории по классу фортепиано (1957—1959). В 1964 году окончил режиссёрский факультет ВГИКа (мастерская Михаила Ромма).

Находясь в юности под влиянием творчества Акиры Куросава, Кончаловский дебютировал фильмом «Первый учитель» по повести Чингиза Айтматова. В роли главной героини Алтынай снял молодую балерину Наталью Аринбасарову, на которой потом женился.

В 1969 году режиссёр впервые обращается к русской классике и снимает фильм «Дворянское гнездо» по одноимённому роману Ивана Тургенева. Следующая картина экранизирует классическое произведение Антона Чехова — «Дядя Ваня» (1970). Этот фильм приносит Кончаловскому первый успех за рубежом, режиссёр был удостоен приза «Серебряная раковина» Международного кинофестиваля в Сан-Себастьяне.

Международное признание приносит Кончаловскому и вышедший на экраны в 1974 году фильм «Романс о влюблённых», удостоенный Гран-при кинофестиваля в Карловых Варах. В 1979 году «Сибириада», четырёхсерийная мелодрама о нескольких поколениях покорителей Сибири, была удостоена Гран-при Каннского кинофестиваля.

В 1972 году получил звание лауреата Государственной премии Казахской ССР после всесоюзного успеха фильма «Конец атамана» по сценарию Кончаловского (о ликвидации чекистами белого атамана Дутова, 30 млн зрителей за 1972 год).

В 1980 году получил звание народного артиста РСФСР.

В условиях ограничения творческой свободы, по мнению критиков, Кончаловский создал честные, искренние, правдивые, опередившие своё время фильмы: помимо картины «Первый учитель» это киноэпопея «Сибириада», музыкальная мелодрама «Романс о влюблённых», «История Аси Клячиной…» (мелодрама снята в 1966, но прорвалась на широкий экран только в 1988). Киноведами особо отмечается нонконформизм и творческая смелость молодого режиссёра, который, не объявляя себя прямо диссидентом, тем не менее нашёл в себе силы пойти против тоталитарной системы.

В 1980 году уехал в США, в Голливуд. Снял там несколько фильмов, среди которых выделяется блокбастер «Танго и Кэш» (1989) с Сильвестром Сталлоне и Куртом Расселом в главных ролях. Позже Кончаловский разочаровался в американском кино и в начале 1990-х вернулся на родину.

В начале 1990-х годов Кончаловский снимает ряд фильмов, не ставших крупными событиями в российском кинематографе. Новый успех ждёт его за границей. В 1997 году снятый Кончаловским в США мини-сериал «Одиссея» по мотивам историко-приключенческих сюжетов Гомера с Армандом Ассанте в главной роли вызвал широкий зрительский интерес в мире и стал на тот момент самым дорогим телепродуктом. Сериал получил в США телевизионную премию «Эмми». В следующие пять лет Кончаловский, впервые с начала карьеры, не ставит ни одного фильма.

Новый творческий импульс 61-летний режиссёр получает после женитьбы в 1998 году на молодой белорусской актрисе Юлии Высоцкой, с которой Кончаловский познакомился на кинофестивале в Сочи, и этот брак стал самым длительным и счастливым в его жизни. После пятилетнего перерыва Кончаловский уверенно преодолевает творческий спад и в 2002 году выпускает на экраны экстравагантный «Дом дураков» с Высоцкой в главной роли и при участии канадского рок музыканта Брайана Адамса в качестве камео в романтической сцене. На 59-м Венецианском кинофестивале остросюжетная история обитателей психиатрического интерната в контексте событий первой чеченской войны была отмечена Гран-при жюри.

В 2003 году по пьесе американского писателя Джеймса Голдмана снял историческую драму «Лев зимой».

В 2005 году основал «Продюсерский центр Андрея Кончаловского», который создаёт программы для ведущих каналов российского телевидения — НТВ, РТР, «Культура», «Звезда», продюсирует театральные постановки, осуществляет книгоиздательские проекты. Одной из наиболее популярных телепрограмм, продюсируемых Кончаловским, стало артхаусное кулинарное шоу «Едим дома!» на канале НТВ с Высоцкой в качестве ведущей. Кулинарный документальный сериал выходит в эфир в воскресное утро с сентября 2003 года и является одним из долгожителей на российском ТВ.

В 2007 году вышел фильм «Глянец» — комедийная мелодрама о тривиальных иллюзиях и сверхмерном тщеславии профессиональных обитателей современных глянцевых миров.

В 2009 году был сопродюсером фильма «Последнее воскресение» — о последних днях жизни Льва Толстого. Фильм получил несколько наград премии «Золотой Глобус».

В творчестве Кончаловского нашли отражение и авангардистские технологии. В 2010 году сначала в США, а затем в России состоялась премьера новогоднего фантасмагорического фильма «Щелкунчик и Крысиный Король», снятого режиссёром в формате 3D по мотивам сказки Э. Т. А. Гофмана и балета П. И. Чайковского «Щелкунчик», с участием Эль Фэннинг, Натана Лейна, Фрэнсис де ла Тур и Джона Туртурро.