Родился 19 февраля (3 марта) 1899 в Елисаветграде. Отец, обедневший польский дворянин, был акцизным чиновником. Благодаря матери атмосфера в семье была проникнута духом католицизма. В 1902 семья переехала в Одессу. В воспоминаниях Олеша писал: «В Одессе я научился считать себя близким к Западу. В детстве я жил как бы в Европе». Насыщенная культурная жизнь города способствовала воспитанию будущего писателя. Еще учась в гимназии, Олеша начал писать стихи. Стихотворение Кларимонда (1915) было опубликовано в газете «Южный вестник». По окончании гимназии в 1917 поступил в университет, где в течение двух лет изучал юриспруденцию. В Одессе вместе с В.Катаевым, Э.Багрицким, И.Ильфом образовал группу «Коллектив поэтов».

В годы Гражданской войны Олеша оставался в Одессе, где в 1919 пережил смерть любимой сестры Ванды. В 1921 уехал из голодной Одессы в Харьков, где работал как журналист и печатал стихи в периодической печати. В 1922 родители Олеши получили возможность эмигрировать в Польшу.

В 1922 Олеша переехал в Москву, писал фельетоны и статьи, подписывая их псевдонимом Зубило, для газеты железнодорожников «Гудок», с которой в то время сотрудничали М.Булгаков, Катаев, Ильф, Е.Петров и др. писатели.

В 1924 Олеша написал свое первое прозаическое произведение – роман-сказку Три толстяка (опубл. 1928, иллюстрации М.Добужинского), посвятив его своей жене О.Г.Суок. Жанр сказки, мир которой естественно-гиперболичен, соответствовал потребности Олеши писать метафорическую прозу (в кругу литераторов его называли «королем метафор»). Роман Три толстяка был проникнут романтическим отношением автора к революции. Восприятие революции как счастья свойственно в Трех толстяках всем положительным героям – циркачке Суок, гимнасту Тибулу, оружейнику Просперо, доктору Гаспару Арнери.

Сказка вызвала огромный читательский интерес и одновременно скептические отзывы официальной критики («призыва к борьбе, труду, героического примера дети Страны Советов здесь не найдут»). Дети и взрослые восхищались фантазией автора, своеобразием его метафорического стиля. В 1930 по заказу МХАТа Олеша сделал инсценировку Трех толстяков, которая до наших дней успешно идет во многих театрах мира. Роман и пьеса переведены на 17 языков. По сказке Олеши поставлен балет (муз. В.Оранского) и художественный фильм (реж. А.Баталов).

Публикация в журнале «Красная новь» романа Зависть (1927) вызвала полемику в печати. Главный герой романа, интеллигент, мечтатель и поэт Николай Кавалеров, стал героем времени, своеобразным «лишним человеком» советской действительности. В противоположность целеустремленному и успешному колбаснику Андрею Бабичеву, неудачник Кавалеров не выглядел проигравшим. Нежелание и невозможность преуспевать в мире, живущем по античеловечным законам, делали образ Кавалерова автобиографическим, о чем Олеша написал в своих дневниковых записях. В романе Зависть Олеша создал метафору советского строя – образ колбасы как символ благополучия. В 1929 автор написал по этому роману пьесу Заговор чувств.

Автобиографичен и образ главной героини пьесы Список благодеяний (1930) актрисы Елены Гончаровой. В 1931 переделанную по указанию цензуры пьесу начал репетировать Вс.Мейерхольд, однако спектакль вскоре был запрещен. Список благодеяний фактически был «списком преступлений» советской власти, в пьесе было выражено отношение автора к окружающей его действительности – к расстрелам, к запрету на частную жизнь и на право высказывать свое мнение, к бессмысленности творчества в стране, где разрушено общество и т.п. В дневнике Олеша записал: «Все опровергнуто, и все стало несериозно после того, как ценой нашей молодости, жизни – установлена единственная истина: революция».

В 1930-е годы по заказу МХАТа Олеша писал пьесу, в основе которой лежала владевшая им мысль об отчаянии и нищете человека, у которого отнято все, кроме клички «писатель». Попытка выразить это ощущение была сделана Олешей в его речи на Первом съезде советских писателей (1934). Пьеса о нищем не была завершена. По сохранившимся черновикам режиссер М.Левитин поставил в 1986 в московском театре «Эрмитаж» спектакль Нищий, или Смерть Занда.

В дальнейшем Олеша не писал цельных художественных произведений. В письме жене он объяснил свое состояние: «Просто та эстетика, которая является существом моего искусства, сейчас не нужна, даже враждебна – не против страны, а против банды установивших другую, подлую, антихудожественную эстетику». О том, что дар художника не был им утрачен, свидетельствуют многочисленные дневниковые записи Олеши, обладающие качествами подлинно художественной прозы.

В годы сталинских репрессий были уничтожены многие друзья Олеши – Мейерхольд, Д.Святополк-Мирский, В.Стенич, И.Бабель, В.Нарбут и др.; сам он чудом избежал ареста. В 1936 на публикацию произведений Олеши и упоминание его имени в печати был наложен запрет, снятый властями только в 1956, когда была издана книга Избранные сочинения, переизданы Три толстяка и частично опубликованы в альманахе «Литературная Москва» дневниковые записи Ни дня без строчки.

В годы войны Олеша был эвакуирован в Ашхабад, затем вернулся в Москву. Писатель с горечью называл себя в послевоенные годы «князем «Националя», имея в виду свой образ жизни. «Невроз эпохи», который остро ощущал писатель, выразился в неизлечимом алкоголизме. Тематика его дневников в 1950-е годы очень разнообразна. Олеша писал о встречах с Пастернаком, о смерти Бунина, об Утесове и Зощенко, о собственной ушедшей молодости, о гастролях «Комеди Франсез» в Москве и т.д.

Умер Олеша в Москве 10 мая 1960.