John Harvard era figlio di un macellaio e figlia di un commerciante di bestiame e consigliere comunale di Stratford-on-Avon. La peste uccise suo padre e la maggior parte dei suoi fratelli e sorelle nel 1625. Sua madre si risposò e John fu mandato dalla madre e dal patrigno all’Emmanuel College di Cambridge nel 1627. Si laureò nel 1631 e conseguì un master nel 1635. Si sposò nel 1636 e l’anno successivo salpò per il New England.
Il 2 novembre 1637 Harvard divenne un uomo libero di Charlestown, Massachusetts Bay Colony, dove fu immediatamente riconosciuto come un uomo colto e pio. Ha servito come vice parroco della First Church of Charlestown ed è stato nominato membro del comitato per aiutare a compilare il Body of Liberties.
Harvard aveva ereditato notevoli proprietà in Inghilterra ed era più ricco della maggior parte dei suoi contemporanei coloniali. Quando morì di tubercolosi poco meno di un anno dopo il suo arrivo a Charlestown, lasciò una tenuta di circa £ 1.600. Nel suo testamento ordinò che metà dei suoi soldi, insieme alla sua collezione di letteratura classica e teologica, fossero dati a una scuola creata di recente nella vicina New Towne, che presto sarebbe stata ribattezzata Cambridge. La scuola era stata fondata nel 1636 e il dono di Harvard ne assicurò la continuità operativa. Nel 1639 il tribunale generale del Massachusetts decretò che la scuola fosse chiamata Harvard College in segno di gratitudine al suo primo grande benefattore.
Nel 1828 gli alunni di Harvard eressero un monumento di granito alla memoria di John Harvard e una statua seduta del “sempre memorabile benefattore della cultura e della religione in America”, come lo chiamava Edward Everett , è stato dato alla Harvard University nel 1884.