Джейкоб Бенджамин «Джейк» Гилленхааль родился в Лос-Анджелесе, сын режиссёра Стивена Гилленхааля и сценаристки Наоми Фонер. Отец Гилленхааля является выходцем из аристократической шведской семьи Йелленхюле. Мать из еврейско-русской семьи из Нью-Йорка.
Джейк Гилленхааль в кино дебютировал в 11 лет, снявшись в комедии «Городские пижоны» (1991). Первую главную роль сыграл фильме «Октябрьское небо» (1999).
В 2001 году сыграл в культовой психоделической драме «Донни Дарко», которую можно считать началом его успешной актёрской карьеры. Следующей заметной работой была «Миля лунного света» в 2002 году, где Гилленхааль снялся с Дастином Хоффманом и Сьюзан Сарандон. Затем участвовал в кастинге на роль Человека-паука в фильме «Человек-паук 2», однако вместо этого снялся в фильме-катастрофе Роланда Эммериха «Послезавтра» (2004), который стал первым блокбастером в карьере молодого актёра.
2005 год стал прорывным годом для Гилленхааля, он снялся сразу в трёх успешных фильмах — «Доказательство», «Морпехи» и «Горбатая гора». «Горбатая гора» получила «Золотого льва» на Венецианском кинофестивале, четыре премии BAFTA и три «Оскара», а Джейк Гилленхааль получил свою первую номинацию на «Оскар» — за лучшую мужскую роль второго плана.
В 2006 году Гилленхааль был назван одним из 50 самых красивых людей мира по версии журнала People. Считается одним из самых многообещающих актёров своего поколения.