Heller navštěvoval v letech 1948–1949 Kolumbijskou universitu v New Yorku, poté studoval v Anglii na Oxfordu. Po ukončení studií pracoval v několika reklamních agenturách a věnoval se psaní. Roku 1975 se stal mimořádným profesorem literatury City College v New Yorku.

Joseph Heller se proslavil hned svým prvním románem Hlava XXII o kapitánu Yossarianovi, v němž se svérázným černým humorem zobrazil absurditu válečné mašinérie (téma války se objevuje rovněž v Hellerově dramatické tvorbě).

V následujících prózách již Heller nedokázal překročit vlastní stín - dušezpytným monologem průměrného Američana 60. let, který není schopen uniknout prázdnotě života, satirou na pošetilé úsilí hlavního hrdiny uniknout rodině do sféry politického života, starozákonní látkou ani experimentálním historickým podobenstvím o úpadku umění nedosáhl kvality svého debutu.

Heller zemřel roku 1999 na infarkt.