John Harvard era hijo de un carnicero y de la hija de un comerciante de ganado y concejal de Stratford-on-Avon. La plaga mató a su padre y a la mayoría de sus hermanos y hermanas en 1625. Su madre se volvió a casar y John fue enviado por su madre y su padrastro al Emmanuel College, Cambridge, en 1627. Se graduó en 1631 y obtuvo una maestría en 1635. Se casó en 1636 y navegó hacia Nueva Inglaterra al año siguiente.

El 2 de noviembre de 1637, Harvard se convirtió en un hombre libre de Charlestown, Massachusetts Bay Colony, donde inmediatamente fue reconocido como un hombre culto y piadoso. Se desempeñó como pastor asistente de la Primera Iglesia de Charlestown y fue nombrado miembro del comité para ayudar a compilar el Cuerpo de Libertades.

Harvard había heredado una propiedad considerable en Inglaterra, y era más rico que la mayoría. de sus contemporáneos coloniales. Cuando murió de tuberculosis poco menos de un año después de llegar a Charlestown, dejó una propiedad de aproximadamente £ 1,600. En su testamento ordenó que la mitad de su dinero, junto con su colección de literatura clásica y teológica, fuera entregada a una escuela recientemente creada en la vecina New Towne, que pronto pasaría a llamarse Cambridge. La escuela había sido fundada en 1636 y el obsequio de Harvard aseguró su funcionamiento continuo. En 1639, el Tribunal General de Massachusetts decretó que la escuela se llamara Harvard College en agradecimiento a su primer gran benefactor.

En 1828, los exalumnos de Harvard erigieron un monumento de granito a la memoria de John Harvard y una estatua sentada del «siempre memorable benefactor del aprendizaje y la religión en Estados Unidos», como lo llamó Edward Everett , fue entregado a la Universidad de Harvard en 1884.