Конан О’Брайен родился в 1963 году в пригороде Бруклина в семье ирландских католиков-иммигрантов Томаса и Рут О’Брайен и был третьим из шестерых детей. Его мать была адвокатом, а отец профессором медицины и эпидемиологом. После окончания школы в Бруклине Конан поступил в Гарвард, который он окончил с отличием в 1985 году, получив степень бакалавра искусств по специальности история и литература.

Ещё в школе Коннан проявил себя как писатель и редактор, участвуя в издании школьной газеты, а в Гарварде писал статьи для студенческого юмористического журнала Harvard Lampoon. В течение двух лет подряд Конан был председателем этого журнала, первый случай такого длительного пребывания на этом посту за 85 лет. После университета Конан получил работу сценариста на канале HBO в Голливуде, сочиняя тексты для программы «Not Necessarily The News».

В 1988 году Конана О’Брайена заметил продюсер телешоу "Субботний вечер" («Saturday Night») Лорн Майклс (Lorne Michaels) и предложил ему работу в качестве автора скетчей для его шоу. В 1991 году Конан О’Брайен и Роберт Смигель (Robert Smigel) выпустили пилотный проект Lookwell, который провалился, и Конану пришлось искать другую работу. В 1991-1993 годах он был соавтором и продюсером мультсериала Симпсоны (The Simpsons), и его творением был Капитан Горацио МакКаллистер (Capitan Horatio Mc Callister), появившийся в 1992 году в серии New Kid On The Block.

Шоу было встречено прохладно как критиками, так и зрителями. В течение нескольких лет Конан был на грани провала, и телеканал продлевал с ним контракт на еженедельной основе. Однако, к 1997 году ситуация начала улучшаться, и у телешоу стали появляться поклонники, число которых с каждым выпуском возрастало. Вскоре шоу получило высокий рейтинг, и в 2005 году имело аудиторию в 2,5 миллиона зрителей.

20 февраля 2009 года телеканал NBC показал последний эпизод «Поздней ночи с Конаном О’Брайеном». Передача была закрыта в связи с тем, что Конан стал ведущим «Вечернего шоу» вместо Джея Ленно. Первый эфир «Вечернего шоу» с новым ведущим состоялся 1 июня 2009 года.

Помимо работы в телешоу О’Брайен был ведущим нескольких церемоний награждения Эмми, а также озвучивал персонажей мультсериалов Симпсоны и Южный парк, был гостем других телешоу и снимался в комедийных телесериалах и фильмах (см. фильмографию). В России наибольшую известность приобрел ролик «Человек-молекула», в котором он снялся. Конан увлекается музыкой и играет на гитаре.