Олег Басилашвили родился 26 сентября 1934 года в Москве в семье Валериана Ношревановича Басилашвили (ок.1900—1975) и Ирины Сергеевны Ильинской (1908—1980), известного в СССР филолога, автора учебника по русскому языку для учителей, книг «Лексика стихотворений Пушкина», «О богатстве русского языка» и других. Дед по матери С. М. Ильинский (1872—1934), архитектор, закончил Московское училище ваяния и зодчества. По его проекту в 1914—1917 гг. построен храм св. мучеников Адриана и Наталии у станции Лосиноостровская. Грузинская фамилия Басилашвили была только у отца, а до него все предки были Басиловыми. Обе фамилии переводятся одинаково — «потомок Басила».

Дед — Ношреван Койхосрович Басилов (1867—1943) — был околоточным надзирателем полиции Горийского уезда. Прадед, Кайхосро Басилов (1840—?), землевладелец села Карби Горийского уезда. Предки Басилашвили пришли в Грузию с территории современной Турции, с горы Басиан около 400 лет назад.

В 1956 году окончил Школу-студию МХАТ (курс Павла Массальского) и получил распределение в Сталинградский областной театр, который покинул, даже не начиная там своей театральной деятельности. В Ленинграде, куда Олег Валерианович с супругой, Татьяной Дорониной, отправился после Сталинграда, был приглашён в Ленинградский театр имени Ленинского комсомола. В 1959 году вместе с женой был приглашён в Большой драматический театр им. Горького, где, по собственному признанию, весьма неудачно дебютировал в роли Степана Лукина в «Варварах» А. М. Горького и долго не мог найти себя. Тем не менее со второй половины 1960-х годов Олег Басилашвили стал одним из ведущих актёров театра.

Широкую известность актёру принесли роли в кинофильмах Эльдара Рязанова («Служебный роман», «Вокзал для двоих», «О бедном гусаре замолвите слово»), Георгия Данелия («Осенний марафон»).

В 1975 году в связи со смертью отца и одного из ведущих актёров театра Ефима Копеляна Олег Басилашвили был вынужден отказаться от роли Ипполита в фильме Э. Рязанова «Ирония судьбы, или С лёгким паром!».

В конце 1980-х Олег Басилашвили был депутатом Верховного Совета СССР. В 1990—1993 годах — народный депутат РСФСР (Российской Федерации).