John, amatör bir yapımda hasta bir arkadaşının yerine oynadığında ticari bir sanatçıydı ve aktris Sybil Thorndike tarafından izlendi ve potansiyelinin farkına vardı. Watford ve Crewe'deki repertuvar çalışmalarının ardından 1936 yılında Tyrone Guthrie tarafından Londra Old Vic'e davet edildi ve 'Love's Labours Lost' ve 'Twelfth Night' oyunlarında rol aldı. 1937 yılında Laurence Olivier ve Vivien Leigh ile birlikte Elsinore'da sahnelenen 'Hamlet' oyununda yer aldı. İlk filmini 1937 yılında The Conquest of the Air (1931) filminde ve BBC televizyonunun ilk yapımlarından olan 'The Harmfulness of Tobacco' filminde oynadı. Savaş patlak verdiğinde Stockholm'deki İngiliz Büyükelçiliği'ne atandı ve burada kodlama ve şifre çözme işlerinde çalıştı. 1941'de Kaliforniya'daydı ve İngiltere'ye dönmek üzereyken Bayan Miniver (1942), Jane Eyre (1943), Madame Bovary (1949), Gigi (1958) ve Harika Hırsız'ı (1966) içeren uzun bir film kariyerinin başlangıcı olan Sanghay Batakhaneleri'nde (1941) bir rol teklif edildi. 1946 yılında Broadway'deki ilk çıkışını 'He Who Gets Slapped' ile yaptı ve bunu 'Montsarrat' (1948) ve 'The Waltz of the Toreadors' (1957) gibi oyunlar izledi. Ayrıca Alfred Hitchcock Presents (1955) ("First Class Honeymoon", 1962), The Man from U.N.C.L.E. (1964) ("The Birds and the Bees Affair", 1966) ve Tatlı cadı (1964) ("Samantha's da Vinci Dilemma"'da Leonardo da Vinci olarak, 1967) gibi bölümlerde yer alarak televizyon çalışmalarında da üretken oldu.