Swing döneminin en başarılı ve etkili davulcularından biri olan Jonathan 'Papa Jo' Jones, Alabama'da eğitim gördü ve on yaşına geldiğinde piyano, trompet ve saksafon çalmada yetkinleşti. Evden ayrıldıktan sonra gezici tıp gösterilerinde ve vodvillerde şarkıcı ve step dansçısı olarak çalıştı ve sonunda davul çalmaya başladı. Gençliğinin sonlarında Walter Page's 'Blue Devils', Harold Jones' Brownskin Syncopators (1931) ve Lloyd Hunter's Serenaders (1933'e kadar) gibi bölge gruplarında caz çaldı. Jones 1934'te Kansas City'ye yerleşti ve henüz lakabını Count Basie olarak değiştirmemiş olan Bill Basie ile tanıştı. Jones kısa süre sonra Basie'nin grubunda davulcu olarak işe alındı ve 1936 sonbaharına kadar aralıklı olarak çalıştı. Page ve Basie ile birlikte, genellikle 'All-American Rhythm Section' olarak anılan grubun ayrılmaz bir parçası haline geldi. Yenilikçi bir müzisyen olan Jones, fırça kullanımını tercih ederek ve bas davul yerine hi-hat zilini elindeki baskın zaman tutma enstrümanı haline getirerek geleneksel bakış açılarını değiştirdi.1944 ve 1946 yılları arasındaki askerlik hizmeti nedeniyle kesintiye uğrayan görev süresi boyunca Jones, Şubat 1948'e kadar Basie ile birlikte kaldı. Daha sonraki serbest çalışmaları arasında Norman Granz'ın Jazz at the Philharmonic'i ile ülke çapında ve Avrupa turnelerinin yanı sıra Gene Ammons, Sonny Stitt ve Joe Bushkin liderliğindeki daha küçük swing/bop topluluklarında yer aldı. Jones, 1950'ler ve 60'lar boyunca Billie Holiday, Art Tatum, Lionel Hampton, Duke Ellington, Ella Fitzgerald, Lester Young, Roy Eldridge, Teddy Wilson ve daha birçokları ile kayıtlar yaptı. Ayrıca New York kulüp sahnesinde düzenli olarak performans sergiledi ve zaman zaman kendi üçlüsünün başına geçti. Çok okur-yazar ve açık sözlü bir kişi olan Jones, özellikle yeterli sanatsal liyakate sahip olmadan yükseltildiğine inandığı müzisyenler konusunda açık sözlülüğü ve değişkenliği ile haklı bir üne sahipti.