墨的起源有多種說法:上古時代有田真造墨,周宣王時有邢夷造墨;新石器時期的彩陶上有多種顏色的圖畫;殷墟甲骨文上則有朱書、墨書;湖南長沙出土的戰國竹簡上,文字墨色至今漆黑。
宋朝蘇易簡的《文房四譜》載有:「上古無墨,竹梃點漆而書;中古以石磨汁,至魏晉始有墨丸,乃漆煙松煤夾和為之。」說明墨的演進分為三個階段,起初用漆樹的汁液、其後用石墨,最後才有墨丸,甚至也用墨斗魚(烏賊)腹中的墨汁,進行書寫或染色。
最早關於墨的文獻記載出自《莊子•田子方篇》篇:「宋元君將畫圖,眾史皆至,受揖而立,舐筆和墨。」三國時的魏國,出了個製墨名家韋誕,當時的製墨工藝,已經包括去雜、配料、舂搗、合墨等工序。韋誕在最後合墨時,嘗試用模具來壓製墨條,使墨條外觀更加美觀。韋誕之後,無論書寫或印刷,都沿用韋誕所創的製墨法,難怪後人將韋誕誤認為製墨的發明人。
在製墨的歷史長河中,也出現為數不少名留青史的墨工。南唐李後主時代,有奚超、奚廷珪父子,用黃山腳下的古松製墨,工藝精湛,深得寵愛,還被賜以國姓「李」。據說李廷珪的墨名貴非凡,所謂「黃金易得,李墨難求」,其原料取材包括:松煙一斤,珠粉三兩,玉屑、龍腦各一兩,然後和以生漆,搗十萬杵。他製的墨,「其堅如玉,其紋如犀,寫愈數十幅,不費一二分。」
也因為李廷珪的墨出自徽州(安徽省歙縣),流傳至今,「徽墨」仍是中國墨中之寶,它的特點是「落紙如漆,色澤黑潤,經久不褪,紙筆不膠,香味濃郁,豐肌膩理。」同時在墨面雕刻山水人物,又將墨錠製成各種造型,施以五彩,嵌在錦匣中,直到今天,「徽墨」還是兩岸文人往來應酬不可少的伴手禮呢。