Римский-Корсаков родился в небольшом городе Тихвине Новгородской губернии Российской империи. Отец композитора — Андрей Петрович Римский-Корсаков (1784—1862) — служил некоторое время новгородским вице-губернатором, а затем Волынским гражданским губернатором, мать — Софья Васильевна — дочь крепостной крестьянки и богатого помещика Скарятина, женщина достаточно образованная. Сильное влияние на будущего композитора оказал и его старший брат Воин Андреевич — контр-адмирал, реорганизатор системы военно-морского образования. Семейный дом Римских-Корсаковых находился на берегу реки Тихвинки, напротив Тихвинского Богородичного Успенского монастыря.

Игре на фортепиано композитор обучался дома, а потом в пансионе, где уроки музыки были в числе прочих общеобразовательных дисциплин. Известно, что с детства композитор был увлечён музыкой, познакомился с сочинениями Россини, Бетховена, Мейербера, Мендельсона, однако наибольшее впечатление на него произвела музыка Михаила Глинки — его «Камаринская», «Испанские увертюры», оперы «Жизнь за царя» и «Руслан и Людмила». В 1859—1869, чувствуя необходимость получения более профессиональных музыкальных навыков, Римский-Корсаков брал уроки у пианиста Фёдора Канилле.

В 1856 году отец отвёз юного Николая в Морской кадетский корпус, который он окончил с отличием весной 1862 года (в то время учебное заведение сменило своё название на Морское училище). К тому времени умер отец композитора (в 1861 году) и семья Римских-Корсаковых перебралась в Санкт-Петербург.

В 1861 году Канилле познакомил Римского-Корсакова с Милием Балакиревым. Юный композитор сразу стал членом Балакиревского кружка («Могучая кучка»), оказавшего решающее воздействие на формирование его личности и эстетических взглядов композитора. В то время в кружок, помимо его главы — Балакирева — и самого Римского-Корсакова, входили Цезарь Кюи и Модест Мусоргский. Руководивший работой более молодых коллег Балакирев не только подсказывал верные композиторские решения для создаваемых ими сочинений, но и помогал товарищам с инструментовкой.

Под влиянием и руководством Балакирева было начато первое крупное сочинение Римского-Корсакова — Первая симфония ор. 1. По словам самого Римского-Корсакова, эскизы начала симфонии существовали ещё в годы обучения у Канилле, однако серьёзная работа над сочинением развернулась лишь в 1861—1862 годах — и «к маю 1862 года первая часть, скерцо и финал симфонии были мною сочинены и кое-как оркестрованы».

В 1862—1865 годах Римский-Корсаков был назначен на морскую службу на клипере «Алмаз», благодаря чему посетил ряд стран — Англию, Норвегию, Польшу, Францию, Италию, Испанию, США, Бразилию. Впечатления от морской жизни воплотились через некоторое время в морских пейзажах, которые ему удалось запечатлеть в своих произведениях средствами оркестровых красок. Служба на клипере не оставляла много времени для совершенствования музыкальных навыков, так что единственное сочинение, появившееся в этот период из-под пера композитора — вторая часть (Анданте) Первой симфонии (конец 1862 года), после которой Римский-Корсаков надолго забросил сочинительство.

Возвратившись из морского путешествия, Римский-Корсаков снова попадает в общество членов Могучей кучки, в том числе подружился и с новым участником кружка — начинающим композитором и профессиональным химиком Александром Бородиным. Балакирев познакомил молодого композитора с кумиром участников кружка Александром Даргомыжским, с Людмилой Шестаковой (сестрой Михаила Глинки) и с Петром Чайковским.

По настоянию Балакирева Римский-Корсаков вновь принимается за Первую симфонию — сочиняет недостающие трио для скерцо и полностью переоркестровывает. Получившаяся партитура (известная как первая редакция симфонии) была исполнена в 1865 году под управлением самого Балакирева — неизменного исполнителя всех ранних симфонических партитур Римского-Корсакова.

Найденный в Первой симфонии музыкальный язык успешно развит в таких сочинениях, как Увертюра на три русские темы (первая редакция — 1866) и «Сербская фантазия» (1867). Обратившись под влиянием Балакирева к славянским народным мелодиям, Римский-Корсаков придерживается в музыке национального колорита, который и в дальнейшем будет характеризовать большую часть его творчества.

Музыкальная картина «Садко» (1867, позже её музыка частично использована в одноимённой опере) стала этапным произведением Римского-Корсакова. Во-первых, это самое раннее из программных сочинений композитора. В данном случае он выступает как продолжатель традиций европейского программного симфонизма — прежде всего Гектора Берлиоза и Ференца Листа, творчество которых очень повлияло на композитора. В дальнейшем большая часть произведений Римского Корсакова также будет связана с определённой литературной программой. Во-вторых, именно в этом сочинении он впервые соприкоснулся с миром сказки (позже Римского-Корсакова так и будут называть — «Сказочником»). В-третьих, в музыке этого сочинения он попытался оркестровыми красками изобразить море, что позже неоднократно делал в дальнейших своих сочинениях (сюите «Шахерезада», прелюдии-кантате «Из Гомера», операх «Садко» и «Сказка о царе Салтане»). Ещё одно важное открытие, сделанное в музыкальной картине — придуманный самим композитором симметричный лад — так называемая «Гамма Римского-Корсакова», применявшаяся в дальнейших его произведениях для характеристики фантастического мира.

Программно-сказочное начало было развито в симфонической сюите «Антар», написанной на сюжет восточной сказки Осипа Сенковского.

В конце 1860-х годов Римский-Корсаков работает над инструментовкой чужих произведений: помогает Кюи с оркестровкой оперы «Вильям Радклиф» и заканчивает, согласно завещанию умершего Даргомыжского, партитуру его оперы «Каменный гость».

С 1870-х годов расширились границы музыкальной деятельности Римского-Корсакова: он был профессором Санкт-Петербургской консерватории (с 1871, классы практического сочинения, инструментовки, оркестровый), инспектором духовых оркестров Морского ведомства (1873—1884), директором Бесплатной музыкальной школы (1874—1881), дирижёром симфонических концертов (с 1874), а позже и оперных спектаклей, помощником управляющего Придворной певческой капеллой (1883—1894), возглавлял Беляевский кружок (с 1882). В середине 1870-х работал над совершенствованием своей композиторской техники. Именно в этот период Римский-Корсаков обнаруживает серьёзные недостатки в своём музыкальном образовании и сам начинает увлечённо изучать дисциплины, преподаваемые в консерватории. Итогом совершенствования композиторской техники Римского-Корсакова стала Симфония № 3 C-dur.

В эти же годы он обратился к оперному жанру, ставшему впоследствии ведущим в его творчестве (в 1872 году окончена опера «Псковитянка», по драме Льва Мея).

В 1880-х годах большое внимание уделял симфоническим жанрам, именно в этот период создаёт своё крупнейшее эпическое симфоническое полотно — симфоническую сюиту «Шахерезада».

В начале 1890-х годов наблюдался некоторый спад творческой деятельности (в этот период изучал философию, писал статьи, пересмотрел и отредактировал некоторые из своих прежних сочинений). Во 2-й половине 1890-х творчество приобрело исключительную интенсивность: появились оперы «Садко» (1896), «Царская невеста» (по Мею, 1898).

Во время Революции 1905—1907 Римский-Корсаков выступил с активной поддержкой требований бастующих студентов, открыто осудил действия администрации Петербургской консерватории (был уволен из Консерватории, вернулся лишь после предоставления консерватории частичных автономных прав и смены руководства).

Умер в усадьбе Любенск, близ Луги (Санкт-Петербургская губерния).