哈佛也是全世界生产最多有“全球本科生诺贝尔奖”之称的罗德奖学金得主的大学。哈佛最初称为“新学院”或“新市民学院”，该机构在1639年3月13日以一名毕业于英格兰剑桥大学伊曼纽尔学院年轻的牧师约翰·哈佛之名，命名为哈佛学院，因为他捐赠了779英镑（按每年6%、每12年翻倍的增长率计算，到2011年共复利31次，相当于至少增长11亿倍）以及400本书籍（这是他的一半财产）。哈佛大学作为一个“大学”，最早的文献指出是在麻州新宪法颁布的1780年所实现的。

美国于1776年建国，比哈佛建校要晚近140年。15世纪末，由欧洲通往美洲的大西洋航道被哥伦布开辟出来以后，欧洲人纷纷远涉重洋来到美洲。17世纪初，首批英国移民到达北美，在那里开拓自己的“伊甸园”——新英格兰。移民中有100多名清教徒，曾在牛津和剑桥大学受过古典式的高等教育，为了让他们的子孙后代在新的家园也能够受到这种教育，他们于1636年在马萨诸塞州的查尔斯河畔建立了美国历史上第一所学府——哈佛学院。

哈佛大学正因为哈佛大学的建立者当中有很多人都是剑桥大学的毕业生，哈佛大学所在的城市也就被命名为剑桥城。其实原来这所大学的名字叫做“剑桥学院”，哈佛大学名字来源于1638年一位名叫约翰·哈佛的学院院长，这位院长去世时，将自己积蓄的一半和400本图书（在1638年，对于一所创建仅两年、第一届只有学生9位的学校，这可不是小数目）捐赠给这所大学。后来经过议院的投票，决定将这所大学命名为哈佛大学。

这里还有一个有趣的故事。在哈佛大学，有一尊哈佛先生的塑像，这个雕像虽然标注着哈佛先生的名字，但雕刻的并不是哈佛先生本人。由于哈佛先生没有留下任何的影像资料，当后人计划修建这样一尊雕塑时也就没有了模板，只能在当时的哈佛大学里找到一位比较帅的学生作为雕刻的模特，顶替哈佛先生。由于影像资料的欠缺，用比较帅的学生来代替原人作为雕刻的模特，这种情况在美国大学中并不少见。