Bir film karakteri oyuncusu olarak Klugman, halk adamının timsaliydi. O 1950'lerde televizyon oyunculuğunun öncülerinden biriydi ve en iyi 1970'lerde televizyonda The Odd Couple (1970) dizisindeki Oscar Madison rolüyle ve Quincy M.E.'nin (1976) tıbbi tetkikçisi.