Кларк Грегг родился 2 апреля 1962 года в Бостоне, США, в семье священника епископальной церкви и профессора Стэнфордского университета Боба Грегга, и его супруги Мэри Лейн.

Учился Кларк в колледже Tisch School of the Arts при Нью-Йоркском университете, который окончил со степенью бакалавра изящных искусств в 1986 году. Во время учебы в колледже он играл в футбол, но оставил занятие спортом, после того как вывихнул большой палец.

В 1984 году Кларк Грегг стал одним из основателей внебродвейского театра Atlantic Theater Company, в котором на протяжении нескольких лет выступал в качестве актера.

Впервые на киноэкранах Кларк появился в 1988 году. Ему досталась эпизодическая роль в комедии «Всё меняется».

Затем последовали небольшие роли в сериалах «Закон и порядок» (1991), «Женщина по имени Джеки» (1991), «Хроники молодого Индианы Джонса» (1993) и полнометражных фильмах «Создатели тени» (1989), «Я люблю неприятности» (1994) и «Прямая и явная угроза» (1994).

В 1995 году с участием Кларка вышло еще три картины – «Тайсон», «Вне подозрений» и «Подозрительные лица», где ему также достались небольшие роли.

В 1998 году Кларк получил свою первую главную роль в большом кино. Он исполнил роль трансвестита Хэнка в драматической комедии «Приключения Себастьяна Кола».

В 1999 году Грегг в компании Тома Круза, Филипа Сеймура Хоффмана и Джулианны Мур появился в драме «Магнолия».

В 2000 году Кларк снялся во второстепенной роли в комедии «Жизнь за кадром». В том же году по сценарию Кларка Роберт Земекис снял фильм «Что скрывает ложь», главные роли в котором исполнили Мишель Пфайффер и Харрисон Форд.

В 2001 году ему досталась роль суперумника в фантастическом фильме Стивена Спилберга «Искусственный разум», а также роль Билла в драме «Обаятельная и привлекательная».

В 2002 году Кларк Грегг вместе с Робином Уильямсом снялся в триллере «Фото за час», вместе с Мэлом Гибсоном в военной драме «Мы были солдатами», а также исполнил одну из главных ролей в телефильме «Страж сестры моей».

В 2003 году фильмография Кларка Грегга пополнилась тремя картинами «Запятнанная репутация», «11:14» и «U-429: Подводная тюрьма», а в 2004 году – фильмами «Спартанец» с Вэлом Килмером и «Крутая компания» с Деннисом Куэйдом.

В 2006 году получил роли в четырех картинах - «В стране женщин», «Когда звонит незнакомец», «Крик совы» и «Гениальные идеи», но все роли были второго плана.

В 2008 году Кларк впервые выступил в качестве режиссера и снял картину «Удушье», сценарий к которой сам же написал.

В том же 2008 году Кларк впервые появился в образе агента Колсона в фантастическом фильме «Железный человек», главные роли в котором исполнили Роберт Дауни мл., Джефф Бриджес и Гвинет Пэлтроу.

В 2009 году Кларк Грегг снялся вместе с Джозефом Гордоном-Левиттом и Зои Дешанель в мелодраме «500 дней лета».

В 2010 году он вновь играл роль агента Фила Колсона во второй части «Железного человека», а в 2011 году – в «Торе».

В 2011 году Кларк появился в образе Нета Джонса в комедии «Пингвины мистера Поппера», главную роль в которой исполнил Джим Керри.

В 2012 году ему досталась одна из главных ролей в фильме «Много шума из ничего», а также с его участием вышла очередная картина по кинематографической вселенной Marvel «Мстители», за роль в которой Кларк удостоился премии «Сатурн» как лучший актер второго плана.

В том же 2012 году Кларк начал озвучивать агента Фила Колсона в мультсериале «Великий Человек-паук» (2012 – ...).

В 2013 году Грегг сыграл главную роль в собственно снятой комедии «Доверься мне», а также исполнил второстепенные роли в фильмах «С кем переспать?!!», «День труда» и «Яркая звезда».

Также в 2013 года Кларк начал сниматься в роли агента Колсона в сериале «Агенты «Щ.И.Т.» (2013-…).