Андрей Панин родился 28 мая 1962 года в Новосибирске. Через два года семья переехала в Челябинск. Затем, когда Андрею было шесть лет — в Кемерово, где и прожил шестнадцать лет.

В Кемерово окончил Институт культуры и чуть было не закончил пищевой институт. Некоторое время проработал в Минусинском театре. В 1991 году он окончил Школу-студию МХАТ, мастерская А. Калягина и стал актёром МХАТ имени А. П. Чехова. Женат на актрисе МХАТа Наталье Рогожкиной. Среди его сценических работ — «Три сестры», «Скупой рыцарь», «Женитьба», «Смертельный номер», антрепризная постановка «Зима». Занят в спектаклях театра под руководством Олега Табакова.

Одну из первых ролей в кино Андрей Панин сыграл в фильме «По прямой». Известность актёр приобрёл благодаря картинам «Мама, не горюй» Максима Пежемского, «Мама» Дениса Евстигнеева. Несомненным творческим достижением актёра является роль криминального авторитета Левы Шаламова в фильме режиссера Александра Атанесяна «24 часа». Массовая популярность пришла к актёру после телесериала «Бригада», где он мастерски сыграл роль коррумпированного мента, ушедшего в глубокий криминал начала 1990-х. Популярности Панина способствовал также успех телесериала «Каменская».

В 2005 году был приглашён в жюри Высшей лиги КВН.

В 2006 году выпустил экспериментальную актерскую мастерскую во Всероссийском государственном институте кинематографии имени С. А. Герасимова.

В 2011 году приступил к съемкам в сериале о Шерлоке Холмсе, где ему досталась роль Доктора Ватсона.

7 марта 2013 года Андрей был обнаружен мертвым в своей квартире. По предварительной версии Панин упал и сильно ударился головой.