John Harvard var sønn av en slakter og datter av en storhandler og rådmann i Stratford-on-Avon. Pesten drepte faren og de fleste av brødrene og søstrene i 1625. Moren giftet seg på nytt, og John ble sendt av sin mor og stefar til Emmanuel College, Cambridge, i 1627. Han ble uteksaminert i 1631 og fikk en mastergrad i 1635. Han giftet seg i 1636 og seilte til New England året etter.
2. november 1637 ble Harvard fri mann i Charlestown, Massachusetts Bay Colony, hvor han umiddelbart ble anerkjent som en lærd og from mann. Han fungerte som assisterende pastor for den første kirken i Charlestown, og han ble utnevnt til medlem av komiteen for å hjelpe til med å sammensette Body of Liberties.
Harvard hadde arvet betydelig eiendom i England, og han var rikere enn de fleste av hans koloniale samtid. Da han døde av tuberkulose litt mindre enn et år etter ankomst til Charlestown, etterlot han seg en eiendom på rundt £ 1600. I testamentet instruerte han at halvparten av pengene, sammen med samlingen av klassisk og teologisk litteratur, skulle gis til en skole som nylig ble opprettet i nabolandet New Towne, som snart ble omdøpt Cambridge. Skolen ble grunnlagt i 1636, og Harvards gave forsikret den fortsatte driften. I 1639 bestemte Massachusetts General Court at skolen skulle hete Harvard College i takknemlighet til sin første store velgjører.
I 1828 reiste Harvard-alumni et granittmonument for John Harvards minne og en sittende statue av den «minneverdige velgjører av læring og religion i Amerika,» som Edward Everett kalte ham. , ble gitt til Harvard University i 1884.
