自夏代開始，中國形成了一套禮儀制度，這些禮儀制度把人們的行為約束在一定的規範之內，從而保持社會等級秩序的穩定，並且也從這些行為規範中，培養人們自覺遵守社會秩序的習慣。古代國家最重要的兩件事情是祭祀神祗和戰爭，因而，這套禮儀制度的主要內容，就是如何祭祀神祗。這些禮儀到了周代已經發展得非常完備，也非常煩瑣，需要專門的人士去掌握它們，並且在行禮時充當司儀。這些通曉禮儀規範並且在貴族人家祭祀行禮時充當司儀的人們，被稱為“儒”。他們必須通“三才”（天地人）、陰陽之道。也就是說，儒不僅要懂得行禮時的那些儀式，還要通曉那些儀式的意義和作用，即禮中之道。
墨子時常譏諷儒，稱其“富人有喪，乃大悅喜曰：此衣食之端也”。此是墨家對儒者的貶辭，僅僅反映儒者的部分情況。其實，他們大都是社會上有一定文化知識和道德的學者。
到了春秋末期，以孔子為中心的一批學者，辦學授徒，整理和研究古代典籍，關心國家大事。道家和墨家都稱孔子一派為儒者。孔子早就意識到這點，為了避免人們的誤會，要與上述儒者區別開來，特別告誡自己的學生：“女（汝）為君子儒，毋為小人儒。”顯然，他們自認為是君子儒。