墨是我們的先民在新石器時代的晚期發明的，這一時期已出現了陶器，並有紅灰黑彩之分，其中黑陶和彩陶更為優美。殷代已掌握了用墨，並在甲骨上用墨寫字。
在《尚書》和《儀禮》兩部古文典中，古人就已經記載了墨刑和黑繩。
墨可分為天然墨和人工墨兩類。天然墨指的是天然的石墨和經蒸煮後容器腹下的墨胭脂。而人工墨的歷史則起始於周宣王。從此，天然墨被漸漸淘汰。人工墨形成的各種形式，直至用墨模製成各種形狀，其間經歷了漫長的時間。
秦漢時期墨的主要原料是松菸，也有把漆煙和松菸和在一起而成的。
晉時制墨的工藝又有了新的提高，發明了用膠配製。
隋唐五代時期制墨更加受到重視，政府設官辦廠。
唐末由於安史之亂，大量北方墨工紛紛南遷。導致制墨中心南移，此後徽墨雄踞天下。
宋元時期制墨主要是徽墨的天下，墨中添入藥物的藥墨開始出現，此時人們不但用墨也開始藏墨，因此墨幹進一步向工藝品方向發展。
明代製墨工藝又有了發展，前代秘方桐煙和漆煙制墨方法被廣泛採用，墨色黑潤，氣味清香。明代和清代前期是徽墨的盛世。墨的圖案的繪刻和漆匣的裝潢製作，都達到了登峰造極的境界。