Rittenhouse Los Angeles'ta doğdu ve Pasadena'da büyüdü. İlk rollerinden birini ortaokuldayken, kız akademisinin Gypsy müzikalinde Balon Kız rolüyle aldı. Lisede de sahne almaya devam etti, ancak bunu bir kariyer olarak düşünmedi. Rittenhouse Pennsylvania Üniversitesi'ne gitti ve burada Roman dilleri eğitimi aldı. Daha sonra New York'taki Atlantic Theatre Company'de oyunculuk eğitimi almaya karar verdi.