Howard Caine (soyadı Cohen) 13 yaşındayken ailesiyle birlikte taşındı Memleketi Nashville, Tennessee'den New York'a taşındı ve burada oyunculuk eğitimi almaya başladı. Güneyli aksanını silmeyi öğrenerek 32 yabancı ve Amerikan lehçesinde ustalaştı. İkinci Dünya Savaşı sırasında Donanma'da görev yapan Caine, eğitimine The School of Broadway'de "Wonderful Town", "Inherit the Wind", "Lunatics and Lovers" ve "Tiger at the Gates" oyunlarında yer aldı. Broadway'in "Damn Yankees" oyununda "Mr. Applegate" (Şeytan'ın bir enkarnasyonu) rolünde Ray Walston'ın yerini aldı. Dikenli yol (1960), Öde ya da Öl! (1960), Nürenberg Duruşması (1961), Milyonerler kulübü (1963), Basınç Noktası (1962) ve Alvarez Kelly (1966) gibi filmlerde rol aldı. Godfrey Cambridge ve Estelle Parsons ile birlikte rol aldığı Watermelon Man (1970) ve 1776'da (1972) New Yorklu Lewis Morris'i canlandırdı. Sinema Sanatları ve Bilim Akademisi üyesiydi. 750'den fazla canlı ve filme alınmış TV şovunda rol aldı, ancak belki de en çok klasik Hogan's Heroes (1965) dizisindeki Gestapo Binbaşısı Hochstetter rolüyle hatırlanıyor. CBS'in iki bölümlük Haftanın TV Filmi Helter Skelter'da (1976) Charles Manson'ın avukatı Irving Kanarek'in ince bir şekilde gizlenmiş bir portresi olan Everett Scovill olarak yer aldı.1960'ların ortalarında Appalachian beş telli banjo'ya her zaman hayranlık duydu ve ustalaşmaya başladı. 1970 yazından 1993'teki zamansız ölümüne kadar 29 önde gelen banjo yarışmasında ödüller aldı. ve keman yarışmalarında hem En İyi Geleneksel Banjo hem de Geleneksel Şarkı söyleme dallarında ödüller almıştır. Aynı zamanda popüler bir halk şarkıcısıydı ve birçok önde gelen halk kulübü ve halk festivalinde sahne aldı.