John Harvard var son till en slaktare och till dotter till en boskapshandlare och rådman i Stratford-on-Avon. Pesten dödade hans far och de flesta av hans bröder och systrar 1625. Hans mor gifte sig om igen och John skickades av sin mor och styvfar till Emmanuel College, Cambridge, 1627. Han tog examen 1631 och fick en magisterexamen 1635. Han gifte sig 1636 och seglade till New England året därpå.
Den 2 november 1637 blev Harvard friläge i Charlestown, Massachusetts Bay Colony, där han omedelbart erkändes som en lärd och from man. Han tjänstgjorde som biträdande pastor i Charlestowns första kyrka, och han utsågs till ledamot i kommittén för att hjälpa till att sammanställa Liberty Body.
Harvard hade ärvt betydande egendom i England, och han var rikare än de flesta av hans koloniala samtida. När han dog av tuberkulos lite mindre än ett år efter ankomsten till Charlestown, lämnade han en egendom på cirka 1600 £. I testamentet riktade han att hälften av sina pengar, tillsammans med sin samling av klassisk och teologisk litteratur, skulle ges till en skola som nyligen skapades i grannskapet New Towne, som snart skulle döpas om till Cambridge. Skolan grundades 1636, och Harvards gåva försäkrade dess fortsatta drift. 1639 beslutade Massachusetts Court att skolan skulle benämnas Harvard College i tacksamhet till sin första stora välgörare.
År 1828 uppförde Harvard-alumner ett granitmonument till John Harvards minne och en sittande staty av den ”minnesvärda välgörare av lärande och religion i Amerika”, som Edward Everett kallade honom , gavs till Harvard University 1884.
