原始社会大多由长者通过实际活动身教与口耳相传
大约在公元前3000年左右已有“图书文字”和“象形文字”了。有了文字自然会有专门传授和学习的机构，当时称为“成均”，这就是学校的最初萌芽。
到了夏代，则有了正式以教为主的学校，称为“校”。孟子说：“夏日校，教也。”到了商朝，称为“庠”，到周成为“序”。
“序”又分“东序”、“西序”，前者为大学，在国都王宫之东，是贵族及其子弟入学之地；后者为小学，在国都西郊，是平民学习之所。商代生产力日益发展，文化日趋进步，科学日渐发达，因之学校又有增加，称为“学”与“瞽宗”。“学”又有“左学”、“右学”之别，前者专为“国老”而创，后者专为“庶老”而设。国庶之界在于贵族与平民。“学”以明人伦为主，“瞽宗”以习乐为宗。
西周是奴隶社会鼎盛时期，学校组织比较完善。当时分为国学与乡学两种。国学专为贵族子弟而设，按学生入学年龄与教育程度分为大学、小学两级。乡学主要按照当时地方行政区域而定。因地方区域大小不同，亦有塾、庠、序、校之别。一般情况下，塾中优秀者，可升入乡学而学于庠、序、校；庠、序、校中的优秀者或升入国学而学于大学。国学为中央直属学校，乡学是地方学校。
春秋战国时代，官学逐渐为私学替代，出现新兴阶层“士”，秦始皇统一六国文字，提倡“以吏为师，以法为学”。
西汉私学重新恢复发展，汉武帝采纳董仲舒的主张，“罢黜百家，独尊儒术”。在长安兴建太学，置《诗》《书》《礼》《易》《春秋》五经博士为教官，招收博士弟子，年龄在18岁以上。
汉平常时，规定郡、国设学，县邑设校，乡聚设庠序。
校学设经师一人，庠、序置《孝经》师一人。
魏晋南北朝，晋武帝在太学外另设国子学。
唐时，京师设国子监，长官称国子监祭酒，学校六所，国子学，太学，四门学，律学，书学，算学。教师称博士。入学年龄在14岁以上，19岁以下，地方有府学，州学，县学，设博士，文学，助教与教官。
宋代除了太学外，有律算书画医诸学，书院制度开始兴起。宋初有四大书院——白鹿，乐麓，应天，嵩阳。南宋书院有“三舍”制度。
元代有蒙古国小学，回回国小学，教授蒙文、阿拉伯和波斯文学。元代书院始设“山长”
明清教育制度相近，中央有国子监，学生称贡生、监生
明代国子监分南北两监，有日、朝等国学生
清代正式形成五贡——副贡、拔贡、优贡、岁贡、恩贡
明清府和州县设孔庙和学官，府学教官称教授，县学称教谕
明学称学正，副职均称训导，学生院试进学后的生员，按成绩优劣依次分廪生
增生、附生。
还有启蒙教育，明清有三类：私塾，义学，专馆
清光绪三十一年，废除科举建立京师大学堂为新式学校
