墨刑是一种很古老的刑罚，它在尧舜时就出现了。当时三苗之君使用的五虐之刑，包括黥面在内。1尧诛三苗，废“五虐”，改用“象刑”，就是给犯罪者穿上与常人不同的衣服，以示惩罚，其中当受墨刑者要戴黑色的头巾。2禹继尧舜之后开始使用肉刑，以后正式把墨刑定为五刑之一。

最初，墨刑的施行方法是用刀刻人的皮肤，然后在刻痕上涂墨。《尚书·吕刑》篇中“墨辟疑赦”一句后，孔安传云：“刻其颡而涅之曰墨刑。” 。《周礼．司刑》一节中“墨罪五百”一句话，郑玄注云：“墨，黥也，先刻其面，以墨窒之。言刻额为疮，以墨窒疮孔，令变色也。”《礼记·文王世子》篇注云，墨刑和劓、刖等刑一样，“皆以刀锯刺割人体也。”《国语·鲁语》也曾说：“小刑用钻凿，次刑用刀锯。”墨刑为小刑，当是使用钻或凿为刑具。其它各书述及墨刑时都是说用刀刻。这些说明，墨刑在最初规定为刑罚的时候，施行时用刀，而不是后世才采用的针刺。人的面部神经是极其敏感的，犯人在被黥面时的疼痛之状可想而知。由于伤口感染，有的犯人也会因黥面而致死。

从西周时起，墨刑的使用很普遍。周初刑法规定“墨罪五百”，即列举应处以墨刑的罪状有五百条之多。《尚书·吕刑》篇亦云：“墨罚之属千。”可见，当时的刑罚是很严厉的，民众稍有小过，就要被黥面。周代，奴隶主贵族常用黥面者作守门人。因为这些人的脸上带有耻辱的标记，走到哪里都会被认出来，所以他们一般都不会逃跑。而且，黥面者的四肢是健全的，不影响劳作。春秋战国时，各国常使用黥面的囚徒去做各种苦役。秦国商鞅变法时用法严酷，有一次太子犯法，不便加刑，商鞅就把太子的师傅公孙贾黥面，以示惩诫。秦始皇三十四年（前213），丞相李斯奏请焚烧《诗》、《书》等儒家书籍，规定说，如果命令下达之后三十天内不烧者，要“黥为城旦”。“城旦”，是一大早就起来修护城墙的苦役工。当时，“黥为城旦”成为一种比较固定的处罚犯人的措施，这样的犯人遍布全国各地。秦末农民大起义的队伍中，有许多是受到黥面之刑的囚徒。汉初被高祖刘邦封为淮南王的英布，年轻时也曾因小罪被黥面，因此，人们就把他的名字成为黥布。

汉初刑法沿袭秦制，仍使用黥面之刑。《汉书·刑法志》规定“墨罪五百”，条款数目同周初一样。公元前167年，汉文帝刘恒下诏废除肉刑，规定将当受黥面之刑者“髡钳为城旦舂”。意思是，男子应当黥面者，该为剃去头发、颈上戴着铁制的刑具、去做为期四年的“城旦”苦役；女子应当黥面者，改为去做为期四年的舂米的苦役。此后直至汉末，黥面未再实行。但在汉代时，匈奴曾规定，汉朝的使节如果不以黥面，不得进入他们的单于所居住的穹庐。有一次，王鸟充任汉朝的使节，出使匈奴时就顺从了他们的规矩，单于大喜，同意让匈奴的太子到汉朝作人质，请求与汉和亲。有人说，匈奴的这种规定是他们的一种习俗，只是用墨昼在脸上，象征性地表示黥面，并非真的用刀刻割皮肉。这和作为刑罚的黥面当有所区别。