Jemaine Clement, üç erkek kardeşin en büyüğü olarak Masterton, Yeni Zelanda'da doğdu ve büyüdü. Annesi Maori'dir. Clement, Yeni Zelanda'nın Masterton kentindeki Makoura Koleji'nde eğitim gördü. Victoria University of Wellington'da drama ve film eğitimi aldı. Oradayken Taika Waititi ile tanıştı ve So You're a Man ve The Humourbeasts adlı komedi gruplarını kurdular. Clement ayrıca Victoria Üniversitesi'nde Bret McKenzie ile tanıştı ve müzikal-komedi ikilisi Flight of the Conchords'u kurdular. Flight of the Conchords, turneler, radyo programları ve TV spotları da dahil olmak üzere önemli uluslararası başarılara imza attı ve iyi karşılanan Flight of the Conchords (2007) dizisiyle sonuçlandı. Taika Waititi'nin Kartal Köpekbalığına Karşı (2007) filmindeki Jarrod, Savaş Geyikleri'ndeki (2009) Chevalier, Salaklar Sofrası'ndaki (2010) Kieran ve hit devam filmi Siyah Giyen Adamlar 3'teki (2012) Hayvan Boris rolleri de dahil olmak üzere, Clement dizideki performansıyla Emmy'ye aday gösterildi.