Koen je rođen 21. septembra 1934. u Montrealu. Otac mu je preminuo kada mu je bilo svega devet godina. No, kao veoma praktičan čovek na vreme je osnovao trust fond za svog sina što je Koenu uz malu mesečnu naknadu obezbedilo bezbrižnu mladost. Mladi Leonard, međutim, nikako nije mogao da preboli gubitak oca. Upada u tešku depresiju, a utehu pronalazi u eksperimentisanju sa drogama. Kasnije će priznati da je jedini način da se izleči bio odlazak krajem šezdesetih u manastir, gde se susreo sa novim religijskim uticajima. Doduše, ne potpuno nepoznatim. Iako je rastao u judaističkoj tradiciji, Montreal je bio uglavnom katolička i protestantska sredina. Kritičari će kasnije ovaj njegov period navoditi kao presudan za stvaranje pesama sa religijskim referencama, poput Story Of Isaac i Hallelujah.
Prekretnicom svog života veliki muzičar smatra trenutak kada je kao petnaestogodišnjak u lokalnoj knjižari naišao na jednu Lorkinu knjigu. Tada se prema sopstvenom svedočanstvu do te mere zaljubio u njegovu poeziju da je često izjavljivao kako mu je Lorka uništio život. Bez ikakvih obaveza, odlučuje da se ozbiljno posveti pisanju. Sa tim kombinuje i muziku, s obzirom na to da je još kao klinac naučio da svira gitaru. Bilo je to u vreme kada se sprijateljio sa izvesnim studentom, inače – zvezdom montrealskih parkova. Pošto ga je ubedio da mu održi nekoliko lekcija iz sviranja gitare, njegovoj sreći nije bilo kraja. No, dobrog mentora je ubrzo izgubio. Kada se Koenov prvi profesor nije pojavio na nekoliko sledećih časova, Leonard je nazvao internat i saznao da je student izvršio samoubistvo.
Početkom 1951. Koen upisuje fakultet, no pre diplomiranja objavljuje prvu knjigu poezije (1956). Nagrada je bila stipendija od 2000 dolara i put po Evropi. Ubrzo postaje poznato ime u kanadskim literarnim krugovima, a početkom 60-ih, sa 1.500 dolara u džepu (koje je zaradio prodajom knjige), odlazi na grčko ostrvo Hidra. Tamo je kupio kuću i u potpunoj izolaciji počeo intenzivnije da se bavi pisanjem. Prvi roman, svojevrsnu storiju o svom odrastanju, objavljuje 1963. Tada je nastala i čuvena pesma So Long, Marianne, posvećena njegovoj tadašnjoj velikoj ljubavi Marien Jensen.
Sredinom šezdesetih vraća se u Ameriku i postaje deo njujorške umetničke scene. Upoznaje krug oko Endija Vorhola i sve se intenzivnije druži sa Luom Ridom, a zahvaljujući Džonu Hemondu, čoveku koji je otkrio Boba Dilana, piše prve folk pesme za nekoliko izvođača, među kojima je bila i Džudi Kolins. Kada joj je ponudio pesmu Suzanne, prvo ju je otpevao preko telefona. Stvar je ubrzo postala veliki hit. No, Koen se ne libi da u to vreme neke svoje pesme izvodi sam po raznim folk festivalima. Tada privlači pažnju Columbia Records, čija je najveća zvezda u to vreme bio niko drugi do Bob Dilan.
Prvi album Songs Of Leonard Cohen iz 1967. prošao je nezapaženo u Americi, ali se zato svideo Britancima. Apsurdno, ali baš na ovom ostvarenju našle su se neke od danas najpopularnijih Koenovih pesama – Suzanne, So Long Marianne, Sisters Of Mercy. Ne obazirući se na kritike, dve godine kasnije Leonard objavljuje još mračniji i nekomercijalniji album Songs From a Room sa kojeg se izdvajaju često obrađivana Bird on a Wire, The Story of Isaac posvećena jevrejskom nasleđu i jedan od najboljih prepeva numere Partisan, posvećene romantičnim borcima za pravdu. Leonardovo stvaralaštvo lirski je neuhvatljivo i za njegove najveće poznavaoce. Služeći se metaforama, parafrazama, ironičnim i humorističkim odnosom prema društvu, u tekstovima se bavi ljubavlju, religijom, seksualnošću, samoubistvima, depresijom, istorijom i međuljudskim odnosima.
U vokalnom smislu takođe pravi velike promene. Karijeru je započeo kao visoki bariton, da bi godine pušenja njegov glas učinile jednim od najdubljih basova na savremenoj muzičkoj sceni. Posle izdanja The Songs of Love and Hate (1971) na kojem su prvi put uvedeni gudački instrumenti Leonard se pozabavio privatnim životom. Ulazi u vanbračnu zajednicu sa umetnicom Suzan Elrod sa kojom dobija dvoje dece, a tokom rata između Izraela i Sirijsko-egipatske koalicije odlazi u Izrael, gde je prvo krenuo u borbu da bi naposletku isključivo nastupao kao muzičar po vojnim bazama.
Najviše poklonika stiče po objavljivanju New Skin for Old Ceremony (1974) na kojem se našla i legendarna pesma Chelsea Hotel No. 2, o noći koju su Koen i Dženis Džoplin proveli u poznatom njujorškom hotelu Čelsi. Zahvaljujući nesmotrenoj ideji izdavačke kuće, sredinom sedamdesetih na albumu Death of a Ladies’ Man produkciju potpisuje Fil Spektor, te ne samo da je nekoliko pesama snimljeno bez Koena (ubačeni su samo demo vokali) već je i čuveni Koenov muzički minimalizam zamenjen orkestrima. Bek vokale je pevao Bob Dilan.
Uz savršeni džez fjužn, uticaje kantautorke Džoni Mičel i romske violinske deonice, Koen se albumom Recent Songs iz 1979. vraća sebi. Izdvajaju se: Our Lady of Solitude, The Gypse’s Wife i The Smokey Life. Iste godine Koen ostavlja Suzan Elrod i ulazi u vezu sa Rebekom de Mornaj. Osamdesete Koenu donose bogatiju i savremeniju produkciju. U pesme ubacuje sintisajzere, električne gitare, jake ritmove, te konačno postaje prihvatljiviji široj publici. Glas mu, međutim, postaje toliko dubok da kritičari njegovo pevanje u šali porede sa pevanjem sveštenika na sahrani. Na ovom albumu započeo je saradnju sa pevačicom Andžani Tomas, s kojom ubrzo započinje ljubavnu aferu. Dekadu zatvara sjajnim albumom I’m Your Man, savršenom kombinacijom umetničke vrednosti i komercijale. First We Take Manhattan, Everybody Knows i I’m Your Man spajaju pesimizam i mračni humor, koji daju onaj dobro znani koenovski pogled na svet.
Devedesete otvara prvi u nizu tribjut albuma I’m Your Fan. Na njemu su Koena obradili: R.E.M., The Pixies, Nik Kejv, Jan Mekkuloh, Džon Kejl. Time se konačno i formalno ističe Koenov širok uticaj na savremenu rok scenu. Sa albumom The Future (1992) vraća se religijsko proročkom stilu. Bavi se temama uništenja prirode, narkomanije, diktatorstva, abortusa, nuklearnog uništenja… Ne samo da je svaka od numera potencijalni hit već se Waiting for the Miracle, The Future i Anthem pojavljuju i u filmskom blokbasteru Olivera Stona „Natural Born Killers“.
Početkom ovog milenijuma na scenu se spektakularno vraća albumom Ten New Songs na kojem sarađuje sa Šeron Robinson, koja je napisala dobar deo muzike i otpevala prateće vokale. Kuriozitet je da je numeru koja otvara album, In My Secret Life, pisao 13 godina! Očigledno obožavan od žena, na sledećem, ovoga puta džez ostvarenju Dear Heather (2004) snage udružuje sa Andžani Tomas. I sa njom deli pevačke deonice, da bi je na narednom albumu Blue Alert (2006) pustio da sve sama otpeva. U martu 2008. Koen je primljen u Rokenrol kuću slavnih u Njujorku, u društvu Madone, Džona Melenkampa i grupa The Dave Clarke Five i The Ventures. Kritičar uglednog britanskog lista Independent, Endi Gil, u svojoj kritici Koenovog živog albuma Live in London nagradio je ovo izdanje maksimalnom ocenom od pet zvezdica.
Umro je 2016. godine u Los Anđelesu.