Джоэл Коэн родился 29 ноября 1954, вырос вместе с братом Итаном в Миннесоте, четыре года обучался на кинокурсе Нью-Йоркского университета, где снял свой первый студенческий получасовой фильм. Братья всегда работают вместе над фильмами как режиссёры, сценаристы и продюсеры, хотя в титрах часто Джоэл указан как режиссёр, а Итан как продюсер. В кинобизнесе братья известны под прозвищем «двухголовый режиссёр». Часто оба указаны в титрах как монтажёр под именем Родэрик Джейнс.
Полнометражным дебютом Коэнов стал криминальный триллер «Просто кровь» (1983), сразу обративший на себя внимание критики. Первый крупный успех пришел к Коэнам с четвёртой картиной «Бартон Финк» (1991), которая собрала лавры в Каннах — Золотая пальмовая ветвь и приз за лучшую режиссуру.
Затем были популярный у зрителей «Большой Лебовский» (1998) и «Фарго» (1995), снова отмеченный призом за лучшую режиссуру в Каннах и принесший братьям первый «Оскар» (за лучший оригинальный сценарий), а также номинацию за лучшую режиссуру.
За ними последовали «Невыносимая жестокость» (2003), «Человек, которого не было» (2001) — третья каннская награда за лучшую режиссуру и «О, где же ты, брат?» (2000) — вторая номинация на Оскар за лучший сценарий, на сей раз адаптированный.
Наибольший успех Коэнам принесла их двенадцатая работа — «Старикам тут не место» (2007), которая увенчалась тремя Оскарами (за сценарий, режиссуру и лучший фильм), а также принесла наибольшие сборы в истории коэновского кино.
Коэны — признанные мастера «другого кино». Их ленты почти всегда носят криминально-иронический характер и обладают философско-политическим подтекстом.
В 2008 и 2009 годах вышли две новые картины — «После прочтения сжечь» и «Серьёзный человек», в которых получила очередное развитие характерная для Коэнов традиция иронизировать над идиотизмом мира.