Алексей Рыбников родился 17 июля 1945 года в Москве, в творческой семье — его отец был скрипачом, а мать — художницей.

С 1956 по 1962 год учился в Центральной музыкальной школе при Московской государственной консерватории имени П. И. Чайковского.

В 1962 году Рыбников поступил в консерваторию, класс Арама Хачатуряна. Окончил с красным дипломом.

С 1965 года Алексей начинает писать создает музыку для кино.

В 1969 году Алексей Рыбников был принят в Союз композиторов.

С 1969 по 1975 год Алексей преподает на кафедре теоретических дисциплин и ассистирует в классе Хачатуряна.

С 1979 Алексей Рыбников — член Союза кинематографистов.

Алексей Рыбников - автор музыки к рок-опере «Юнона и Авось» (1979).

В 1999 году Постановлением Правительства Москвы при Комитете по культуре Москвы был создан Театр Алексея Рыбникова.

В 2007 году композитор представил на суд публики два своих новых произведения — Concerto Grosso «Синяя птица» — работа, навеянная пьесами Метерлинка, и «Северный сфинкс».

С 26 июля 2010 года — член Патриаршего совета по культуре (Русская православная церковь).

В 2011 году композитор написал современную оперу на основе романа Льва Толстого «Война и мир».

8 января 2012года стартует музыкальный проект «Звезды в опере», в котором Алексей Рыбников будет оценивать выступления участников.

Женат. Супруга — Татьяна, окончила МГУ имени М. В. Ломоносова. Дочь — Анна, кинорежиссёр. Сын — Дмитрий, композитор, музыкант.