John Harvard was de zoon van een slager en van de dochter van een veehandelaar en wethouder van Stratford-on-Avon. De pest doodde zijn vader en de meeste van zijn broers en zussen in 1625. Zijn moeder hertrouwde en John werd in 1627 door zijn moeder en stiefvader naar het Emmanuel College, Cambridge gestuurd. Hij studeerde af in 1631 en behaalde een masterdiploma in 1635. Hij trouwde in 1636 en zeilde het jaar daarop naar New England.

Op 2 november 1637 werd Harvard een vrije man van Charlestown, Massachusetts Bay Colony, waar hij onmiddellijk werd erkend als een geleerd en vroom man. Hij diende als assistent-pastor van de First Church of Charlestown, en hij werd benoemd tot lid van de commissie om te helpen bij het samenstellen van het Body of Liberties.

Harvard had aanzienlijke eigendommen geërfd in Engeland en hij was rijker dan de meesten van zijn koloniale tijdgenoten. Toen hij iets minder dan een jaar na aankomst in Charlestown stierf aan tuberculose, verliet hij een landgoed van ongeveer £ 1.600. In zijn testament schreef hij dat de helft van zijn geld, samen met zijn verzameling klassieke en theologische literatuur, zou worden geschonken aan een school die onlangs in het naburige New Towne werd opgericht en die binnenkort de naam Cambridge zal krijgen. De school was opgericht in 1636 en de gift van Harvard verzekerde de voortzetting ervan. In 1639 besliste het Gerecht van Massachusetts dat de school de naam Harvard College kreeg als dank aan de eerste grote weldoener.

In 1828 richtten alumni van Harvard een granieten monument op ter nagedachtenis van John Harvard, en een zittend standbeeld van de ‘altijd gedenkwaardige weldoener van leren en religie in Amerika’, zoals Edward Everett hem noemde , werd in 1884 aan Harvard University geschonken.