朱元璋带兵行政，一直以纪律严明闻名。开国之后，他的这一作风进一步发扬光大。官员们隐漏公文没有上报这样的细故，《大诰》中居然规定一律凌迟。开国之后，他对文臣进行过几次大规模的集中清洗，如洪武四年“录（甄别）天下官吏案”，八年的“空印案”，十八年的“郭桓案”，十九年“逮官吏积年为民害者”，二十年“罪妄言者”，声势都极浩大。
空印案发生在洪武八年（公元1375年）。按朱元璋的规定，地方政府每年都要向户部报告地方财政账目，其数目必须与户部掌握的数字完全吻合，才能通过，如有分毫差错，整个账目就要全部重新编写。各省离京师远的六七千里，近的三四千里，为了减少麻烦，各地官员都带上已经盖好大印的空白表册，以备账册被驳回时，在京城就地重新编写。
这种情况当然算是违规，不过其实也没有什么危害性。因为账册上盖的地方政府大印，都是骑缝印，就是每页纸上只有半个印章，这种空白纸张，并不能用来伪造其他公文。各地官员年年都这么办，已经成了习惯。
谁料到这一约定俗成的做法居然给天下官员带来塌天大祸。洪武八年的某一天，朱元璋偶然发现了这一情况。他认为这是天下官员蔑视他的规定，勃然大怒，因此小小一事兴起大狱，自户部尚书周肃以下，各省与此事有关的官员全部掉了脑袋。吴晗在《朱元璋传》中说空印案杀掉了数万人。
另一个惊天大案是郭桓案。洪武十八年（公元1385年），有人告发户部右侍郎郭桓等勾结地方官“侵盗官粮”，也就是把国家的税粮偷偷占为己有。朱元璋派人调查，发现情况属实，郭桓以及其他官员们共侵吞了官粮七百万石。这一案导致礼部尚书赵瑁和六部的左右侍郎以下，都掉了脑袋，各省被牵连被杀的官员和富户，又有几万人。
除了这几起大案外，中案小案也每年都有。在日常生活中，朱元璋杀起文官来，真是随心所欲，逸兴遄飞，挥洒尽性。他一时不高兴，可能几百上千人就掉了脑袋，因此洪武一朝成了文官们的地狱。
然而，对于功臣们，朱元璋却异乎寻常的宽容和温柔。苛刻严峻的个性让他对功臣们违法乱纪的行为不可能置之不问，但与功臣同享富贵的宣言刚刚发布，他不想以这些“细故”，破坏自己“厚待功臣”的良好形象，所以他采取了软硬两手。
软的一手是教育。
天下初定之后，朱元璋就意识到提高老乡们文化素养的重要性，毕竟一个个都已经是公侯伯爵，人五人六，再像以前一样，满口粗话，浑身农民习气，怎么配得上他们的高贵地位和巨大权力？因此早在洪武三年十月，朱元璋就给功臣们办起了学习班，他规定每个月初一十五两天，找秀才们轮流为诸将讲学，给他们讲怎么样才能成为一名合格的高级大臣，怎么样遵守君臣之礼，“庶几忠君爱国之心、全身保家之道油然日升而不自知也”。
洪武初，御史袁凯言：“今天下已定，将帅在京师者，于君臣之礼，恐未悉究。臣愿于都督府延至通经学古之士，每于诸将朔望早朝后，俱赴都堂听讲经史。庶几忠君爱国之心、全身保家之道油然日升。”太祖深以为然，遂敕省台延聘儒士，于午门番直，与诸将说书。
除了办讲座，朱元璋还专门组织人给大臣们写书。洪武八年，朱元璋主编了一本厚厚的大书，叫做《资世通训》，是一本全国人民（包括僧道尼等方外之人）都要遵守的《大明国国民守则》，其中第二章就是《臣道章》，分为“忠孝、勿欺、勿蔽”之类十七条内容，专门规定大臣们如何忠于自己的职守。朱元璋把这本书颁赐功臣们每人一本，命令他们认真学习，以此对照自己的行为，发现差距，加以改正。
除了教育之外，他还采取了稍为强硬的一手，那就是从约束功臣的部下家人入手，来给功臣和死罪之间建起一道防火墙。
洪武六年，朱元璋命工部铸造了一个铁榜，也就是铁铸的公告牌，上面铸着约束公侯家人的条文。在铁榜文中，朱元璋这样论述自己的功臣观：
朕观古昔，帝王之纪及功臣传，其君保恤功臣之意，或有始无终，使忠良股肱不免受祸，诚可悯也。间有聪明圣主，待功臣之心，皎如日月，奸臣不能离间，故君臣得以优游终其天年，在社稷有磐石之安，在功臣之家享富贵无穷，朕甚慕焉。亦有明智之君，欲保全有功，其心切切，奈何跋扈之臣，恃其有功，数作过恶，累宥不悛，不得已而诛戮，此臣下自取之也。
又若主有宽仁之德，臣有忠良之心，然彼此各少察断而不明，何也？盖功臣奴仆倚恃权贵，欺压良善，为臣者不能察其所为，致使纵横。刑官执法具罪以闻，在忠良大臣必不如是，特奴仆自作之过。其君不能明察大臣之心，将谓大臣使之。如是，姑息有功，释而不问者有之，略加诫谕奴仆者有之，又不明白与功臣道其奴仆所作之过，含忍太多，及法司屡奏却疑大臣欺罔君上，一旦不容即加残害，此君不明之所致也。
当时功臣虽有忠良之心，却不能检察其下，一有罪责，即怨其君，何也？亦由奴仆之类在外为非，归则言是，大臣职任朝堂，或优闲元老，加以小人阿，少能劝谏，及至奴仆犯罪，法司执问，君命诛其奴仆，大臣不知君上保爱之心，便生疑怨，累及其身，往往有之。或是天子念功臣之劳，而免其罪，其奴仆归告大臣曰：“君上不能容公，故枉问奴等耳。”大臣一时听信，不自加察，以为必然，遂生猜疑，致遭刑戮。此臣不能检察其下之过也，可谓君臣两失之矣。
也就是说，他一心想要保全功臣，使皇帝之家享有磐石之安，使功臣之家享有富贵无穷，彼此成为一段佳话。但是他也深知达成这一境界之不容易。
首先是“跋扈之臣，恃其有功，数作过恶，累宥不悛”，皇帝最后“不得已而诛戮”之。这虽然是“臣下自取之”，毕竟也是惨伤之事，所以他要极力避免。
另一种情况中，皇帝有宽仁之德，功臣有忠良之心，但是却难免功臣的奴仆们倚恃权贵，欺压良善，为所欲为。有的皇帝会念及大臣功劳，对这种情况置之不问，导致愈演愈烈，最后不得已罪及大臣。
或者君臣都本无他意，无奈有小人从中挑拨，导致君臣各生疑心，最终拔刀相向。
因此他“虑公侯之家奴仆等，习染顽风，冒犯国典，今以铁榜申明律令”。
铁榜文的具体内容有九条：
其一，凡内外各指挥千户、百户、镇抚并总旗、小旗等，不得私受公侯金帛、衣服、钱物，受者杖一百，发海南充军，再犯处死。公侯与者，初犯再犯免其罪附过，三犯准免死一次，奉命征讨，与者受者，不在此限。
其二，凡公侯等官，非奉特旨不得私役官军，违者初犯再犯免罪附过，三犯准免死一次。其官军敢有辄便听从者，杖一百，发海南充军。
其三，凡公侯之家，强占官民山场、湖泊、茶园、芦荡及金银铜场铁冶者，初犯再犯免罪附过，三犯准免死一次。
其四，凡内外各卫官军，非当出征之时，不得辄于公侯门首侍立听候，违者杖一百，发烟瘴之地充军。
其五，凡功臣之家管庄人等，不得倚势在乡欺殴人民，违者刺面、劓（yì）鼻，家产籍没入官，妻子徙至南宁，其余听使之人各杖一百，及妻子皆发南宁充军。
其六，凡功臣之家，屯田佃户、管庄、干办、火者、奴仆及其亲属人等，倚势凌民夺侵田产财物者，并依倚势欺殴人民律处断。
其七，凡公侯之家，除赐定仪、仗户及佃田人户已有名额报籍在官，敢有私托门下、影蔽差徭者，斩。
其八，凡公侯之家，倚恃权豪，欺压良善，虚钱实契，侵夺人田地、房屋、孳畜者，初犯免罪附过，再犯住支俸给一半，三犯停其禄，四犯与庶民同罪。
其九，凡功臣之家，不得受诸人田土及朦胧投献物业，违者初犯者免罪附过，再犯住支俸给一半，三犯停其禄，四犯与庶人同罪。
这道铁榜，虽然规定得十分严密，其实也是相当客气的，朱元璋对功臣之家可能出现的各种违法犯罪情况，虽然防范甚严，但他一直小心翼翼地不直接触及功臣们自身。