아이비리그라는 명칭은 1933년 New York Herald Tribune지의 스텐리 우드워드 (Stanley Woodward) 기자가 전통적으로 학문과 이념이 비슷한 동부 8개 명문사립대학들을 “Ivy Colleges”라고 부르면서 시작되었다. “Ivy League” 라는 정확한 용어를 처음 사용한 사람은 1935년 AP 스포츠 편집장인 Alan Gould라고 전해지기도 한다.

아이비리그소속 8개 대학에는 브라운(Brown),컬럼비아(Columbia),코넬(Cornell), 다트머스(Dartmouth),하버드(Harvard),프린스턴(Princeton),예일(Yale) 대학, 유펜(U-Penn) 등이 있다. 이들 대학에는 담쟁이덩굴(ivy)로 덮인 교사(校舍)가 많은 데서 이 명칭이 생겼다고 하며, 1946년에 대학간의 스포츠 교류를 정기적인 리그로 결성한 것이 그 시초이다.
현재는 각 대학 간의 스포츠경기, 특히 아메리칸 풋볼 경기를 위해 만든 스포츠 연맹 조직의 의미에서 점차 모든 학문에서 미국을 대표하는 최고의 명문사립대학 공동체를 가리키는 일반적인 개념이 되었다.
아이비리그 8개 대학은 “Ancient Eight”이라는 또 다른 애칭으로 부르기도 한다.