New York doğumlu James Gregory, tek bir iş için borsa simsarlığı kariyerinden vazgeçti. aktör olarak Broadway sahnesinde başladı. İlk film denemesini 1948. Gregory, gürültülü, küstah, sert polisleri veya işadamları. En iyi rollerinden biri, bir dedektifi yakalamak için Al Capone (1959) filminde Capone. Ayrıca dört filmin üçünde Dean Martin'in patronunu oynadı. sevimsiz "Matt Helm" casus filmleri. Kendini beğenmiş, geveze Barney Miller (1975) adlı televizyon dizisinde Müfettiş Luger.