说到美国哥伦比亚大学的办校历史最初可以追溯到的就是国王学院，他是在1754年的时候正式招收学生开始授课，而这所学校的第一位校长是一位神学博士，而这所学校之所以叫做国王学院是通过乔治二世国王颁布的。而这所学校在美国独立战争的时候关闭了八年。

美国革命之后，学院向纽约州为其重建寻求支持，为此作出了对学院的章程根据纽约州任何可能的要求进行修改的保证。州议会批准了支持学院的建议。1784年5月1日设立了一个校董事会以监督国王学院的重建。为了表示对美国新生共和政体的支持，州议会在法案中规定“位于纽约市的，在此之前被称为国王学院的学院从今以后将永远被称为哥伦比亚学院”。

1896年，学校董事们正式决定使用“哥伦比亚大学”作为这所学校的新名字。同时，校长塞斯·洛再一次搬迁了校园，这一次校园从49街转至现在的地址：一个更加宽阔的，位于快速发展的晨边高地的校区。而哥伦比亚大学最为引起世人关注的就是它的物理学，关于原子的研究。

而之后哥伦比亚大学经过多年的努力已经成为美国非常很重要的研究机构，距今美国哥伦比亚大学已经有一百零四位诺贝尔奖的获得者在这所学校学习或者工作过，而这所大学在世界上所有大学中的排名也是非常靠前的。