Doğma büyüme Minnesotalı olan Joel McKinnon Miller, Minnesota-Duluth Üniversitesi'nde opera ve tiyatro eğitimi almaya başladı. Üniversiteden sonra, New York merkezli bir klasik tiyatro turne şirketi olan John Houseman'ın The Acting Company'sine katıldı ve burada 3 yıl (1984-87) ABD'yi gezdi. Daha sonra Off-Broadway ve bölgesel tiyatrolarda sahne aldı. 1991 yılında CBS'de Murphy Brown ile ilk televizyon çıkışını yaptı. Çok sayıda televizyon kredisi arasında The X-Files (1999), Curb Your Enthusiasm (2001), Everybody Loves Raymond (2005) ve American Horror Story (2011) bulunmaktadır. Sinema filmleri arasında The Truman Show (1998), Friday After Next (2002) ve Super 8 (2011) bulunmaktadır.2006-2011 yılları arasında Joel, HBO dizisi Big Love'da Don Embry'yi canlandırmıştır. Ancak bugüne kadarki en tanınmış rolü, NBC'nin hit dizisi Brooklyn Nine-Nine'da 8 sezon boyunca Dedektif Norm Scully'yi canlandırmasıydı.Joel'in Colin Firth, Toni Collette ve Juliette Binoche ile birlikte rol aldığı bir sonraki projesi The Staircase yakında HBOMax'ta vizyona giriyor.