코넬대학은 1862년에 land-grant 대학으로 출발하여 1865년 당시 뉴욕주의 상원의원 Ezra Cornell(1807-1874)과 Andrew Dickson의 기부를 받아 주립/사립형태의 대학 설립 인가를 받아 1868년에 개교하였다. 다른 IVY대학과는 달리 1872년부터 여학생들을 받아들여 미국에서 가장 오래된 남녀공학이다.
코넬대학은 아이비리그 대학의 하나인 사립대학으로 운영되는 동시에 주정부로부터 보조금을 받아 운영하는 특이한 대학교로서 사립대학이면서도 동시에 주립대학이라는 특성을 갖게 된 계기는 교육이념이 각기 다른 두 사람이 공동으로 설립한 대학이기 때문이다.

연방정부는 1862년에 각 주 별로 대학교육을 위하여 토지를 지급했는데 코넬대 설립자인 에즈라 코넬은 이 토지 이외에도 자신이 이타카 근방에 소유하고 있던 농장과 50만 달러의 현금을 기증하였으며, 그의 동료였던 앤드류 딕슨 화이트는 1865년 초대 총장직에 올랐다. 주정부는 농과대학, 가정학을 중심으로 한 인간생태학 대학, 산업노동학대학, 수의과대학 등 3개 학부를 지원하면서 이들 학과는 뉴욕거주 학생들에게 높은 입학기회를 제공한다. 그러나 문리대, 공과대학, 건축학대학, 호텔스쿨, 의과대학, 법과대학, 경영학대학 등은 모두 사립대학으로 운영돼 학비가 비싸고 입학경쟁도 치열하다. 코넬대학은 ‘실무와 이론을 겸비한 재원을 배출한다'는 것을 모토로 삼는다.
이는 ‘코넬 마피아'란 코넬대 호텔경영학과 동문들이 미국 호텔업계를 자리잡고 있다고 해서 생겨난 말이다. 전세계 관광업계 요직에 만 여명의 동문들이 포진해 있다. 필립 밀러 동문담당국장은 ‘전세계 어느 도시에도 코넬 호텔경영학과 출신이 없는 곳이 없다'고 단언할 정도다. 현재 전세계 호텔 체인을 갖고 있는 포 시즌 호텔 존 샤프회장이 이 학교 65년 졸업생이며, 메리어트 호텔 체인은 오너 가문이 코넬대 호텔 경영학과를 나온 덕택에 졸업생들이 곳곳에서 요직을 차지하고 있다. 이밖에 고 품격 호텔 체인인 브리스톨 호텔의 피터 클라인 회장, 미라지 호텔 댄 리 부사장, 애틀랜틱시티 시저스 호텔 오드리 오스웰 수석부사장 등이 있다.

2010년 현재 농업·생명과학부, 건축·예술·설계학부, 문리학부, 공학부, 호텔경영학부, 사회생태학부, 산업·노동관련학부의 7개 학부와 법과대학, 웨일 의과대학, 수의과대학, 일반대학원, 존슨 경영대학원, 카다르 도하의 대학원과정 등 7개 전공대학 및 대학원 등 14개 대학으로 구성된다
캠퍼스는 뉴욕 주 북부 시골도시 Ithaca에 위치하고 있는데, 1898년 설립된 Weill 의과대학만은 뉴욕 시 맨해튼 East 68번가의 강가에 자리잡고 있다. 북미에서 10번째 규모 안에 드는 코넬대학의 20개 부속도서관에는770만 8728권의 각종 도서와 834만 818점의 마이크로필름 자료 및 CD를 포함한 46만여 점의 시청각자료가 소장되어 있으며, 6만 948종의 정기간행물이 비치되어 있다.