John Harvard byl synem řezníka a dcery obchodníka s dobytkem a radního ze Stratfordu nad Avonou. Mor zabil jeho otce a většinu jeho bratrů a sester v roce 1625. Jeho matka se znovu vdala a John byl poslán jeho matkou a nevlastním otcem na Emmanuel College v Cambridge v roce 1627. Promoval v roce 1631 a v roce 1635 získal magisterský titul. Oženil se v roce 1636 a následující rok se plavil do Nové Anglie.
2. listopadu 1637 se Harvard stal svobodným v Charlestownu v kolonii v Massachusetts Bay, kde byl okamžitě uznáván jako učený a zbožný muž. Působil jako pomocný pastor prvního kostela v Charlestownu a byl jmenován členem výboru, který pomáhal sestavovat Tělo svobod.
Harvard zdědil v Anglii značné majetky a byl bohatší než většina ostatních. jeho koloniálních současníků. Když o něco méně než rok po příjezdu do Charlestownu zemřel na tuberkulózu, zanechal statek kolem 1600 liber. Ve své závěti nařídil, aby polovina jeho peněz spolu se sbírkou klasické a teologické literatury byla věnována škole, která byla nedávno vytvořena v sousedním New Towne, brzy přejmenovaném na Cambridge. Škola byla založena v roce 1636 a Harvardův dar zajistil její další provoz. V roce 1639 Massachusetts General Court rozhodl, že škola bude pojmenována Harvard College jako poděkování jejímu prvnímu velkému dobrodinci.
V roce 1828 postavili absolventi Harvardu žulový pomník na památku Johna Harvarda a usazenou sochu „nezapomenutelného dobrodince učení a náboženství v Americe“, jak jej nazýval Edward Everett. , byla dána na Harvardskou univerzitu v roce 1884.