Питер Джозеф «Джо» Пантолиано родился 12 сентября 1951 года в Хобокене, штат Нью-Джерси, в семье итальянских американцев. Его мать Мария работала букмекером и швеей, а отец Доминик Пантолиано был водителем катафалка и заводским работником.

Окончив школу в Клиффсайд-Парк, Пантолиано долгое время играл в театре, участвовал в таких постановках, как "Пролетая над гнездом кукушки", "Звезда смерти", "Кухня" и "Мертвый сезон". Успехи актера на театральной сцене не раз были отмечены профессиональными премиями.

Джо начал сниматься в кино в 1985 году, он появился в фильме «Рискованный бизнес», а также в фильме «Балбесы» в роли Фрэнсис Фрателли. Но известность он получил благодаря роли Сайфера в культовом научно-фантастическом боевике «Матрица» в 1999 году. Также в этом году Джо сыграл роль Ральфа Сифаретто в сериале «Клан Сопрано».

В 2003 году Пантолиано ыграл на Бродвее в пьесе «Фрэнки и Джонни в лунном свете». В том же году он выиграл премию Эмми за роль Ральфа Сифаретто в сериале «Клан Сопрано».

В 2006 году вышли четыре фильма с участием Джо Пантолиано: «Женюсь на первой встречной», «Пять неизвестных», «Санинспектор» и «Холст».

В октябре 2007 года Джо выступил с публичным заявление о том, что фильм «Холст» ввел его в депрессию, и он намерен публично помогать всем людям, страдающим подобным же недомоганием.

В 2010 году, после нескольких лет пребывания в депрессии, Джо Пантолиано наконец-то снова начал сниматься в кино. Он сыграл Гейба Аглиано в фильме «Перси Джексон и похититель молнии».

В 2011 году Джо Пантолиано снялся в фильме «Косяки», где появился вместе с Питером Фачинелли и Джейми Александер.

В 2014 году Джо досталась небольшая роль в музыкальной драме «Такой же» режиссера Дастина Марселлино.