В 2001 году Джейк Джилленхол встречался с певицей Дженни Льюис, а затем с актрисой Кирстен Данст. Пару познакомила сестра Джейка Мэгги Джилленхол, которая снималась с Данст в фильме «Улыбка Моны Лизы». Джейк и Кирстен начали встречаться в сентябре 2002, но в июле 2004 уже объявили о прекращении отношений.

С 2007 по 2009 год Джейк встречался с актрисой Риз Уизерспун, с которой он снимался в фильме «Версия».

С октября по декабрь 2010 года Джейк встречался с кантри-певицей Тейлор Свифт.

Летом 2013 года Джейк начал встречаться с моделью Алиссой Миллер.