聽說朱升很有學問，朱元璋就學劉備三顧茅廬，「微服從連嶺出石門，親臨其室」。聽說鎮江的秦從龍學問很大，朱元璋特地派侄兒朱文正和外甥李文忠前去邀請，並特意遠出南京城門迎接，安排他和自己住在一起，「事無大小，悉與咨謀」，「稱先生而不名」。每年秦從龍生日，朱元璋「皆有贈遺，或親至其家，與之燕飲，禮遇甚厚」。秦從龍感激得見人就流淚訴說朱的知遇之恩。
知識分子瞧不起他這個出身寒微的山大王，他也不以為忤，而是愈加低聲下氣。劉基「自以仕元，恥為他人用」，說什麼也不肯出山。朱元璋叫處州總制孫炎派人力請，又叫劉的朋友陶安和宋濂分別贈詩勸說。軟磨硬泡，終於把劉基請了出來。朱大喜過望，專門建了禮賢館給劉基等人居住，跟劉基說話，從來都稱「老先生」，在給劉基的信中這樣開頭：「元璋頓首奉書伯溫老先生閣下」(《慰劉基書》、《諭劉基書》，《全明文》卷34)，語氣恭敬虔誠得無以復加。
朱元璋的知識分子工作，做得確實太到位了。他的謙虛、熱情、耐心、豪爽、推心置腹傾倒了大批文化人。知識分子紛紛說，「吾輩今有主矣」，死心塌地為他賣命。朱元璋的投入獲得了百倍回報，最終獨步天下。論者多以為，朱元璋的知識分子政策是他最終從群雄中脫穎而出的根本。方孝孺就說：「地大兵強，據名號以雄視中國者十餘人，皆莫能得士;太祖高皇帝定都金陵，獨能聘至太史金華公(宋濂)而賓禮之。」
建國之後，隨著形勢的發展，朱元璋的知識分子政策也發生了變化。開國之初，百廢待興，各條戰線急需人才。為充實官僚隊伍，朱元璋掀起了一次訪求知識分子高潮。他繼續以前的老辦法，命人攜帶大量金錢分赴各地尋訪人才。對知識分子還是堅持「給足面子」，囑咐使臣們：「求賢之道，非禮不行……有司盡心詢訪，必求真材，以禮敦遣。」
不過，朱元璋這時的知識分子政策已由一手變成了兩手。天下未定之際，讀書人不出山他不硬逼。因為逼急了，這些人有可能跑到他的對手那裡去。他只能擺出寬懷大度的樣子，置之不問。如今天下已經姓朱，讀書人無處可逃，所以對那些太不給面子的知識分子，朱元璋不再介意偶爾顯露一下自己的獠牙。江西貴溪的夏伯啟叔侄不願在新朝當官，乾脆把自己左手的大拇指砍掉，以示決心。朱元璋聞訊大怒，把夏伯啟叔侄抓到南京，親自審訊，梟首示眾，全家籍沒。蘇州人姚潤、王謨，同樣因為「被征不仕」，「皆誅而籍其家」。
《明朝小史》更記載：「帝既得天下，惡勝國頑民，竄入淄流，乃聚數十人，掘一泥坑，特露其頂，而用大斧削之。一削去頭數顆，名曰『鏟頭會』。」就是說，他痛恨那些托身寺廟的遺民，將他們埋入地中，止露其頭，用大斧削去，稱為「鏟頭會」。
在朱元璋以前，雖然君權嚴重，士大夫階層還是享有一定程度的人格獨立。「山林隱逸」不但被寬容，甚至被尊崇。這是傳統社會留給人們最後一塊自由呼吸的空間，朱元璋卻毫不猶豫地封殺了。他認為，這些拒絕與他合作的人必定是看不起他這個前乞丐。他發佈命令：「率土之濱，莫非王臣。寰中士大夫不為君用，是自外其教者，誅其身而沒其家，不為之過。」這就是所謂的「寰中士大夫不為君用」罪。天下是他朱元璋的天下，所有讀書人都是仰他朱家的陽光雨露而活，不為他朱家服務，就是滔天大罪。
胡蘿蔔加大棒政策效果十分明顯。天下知識分子再也不敢東躲西藏，都老老實實出來為新政權服務。大明王朝的官僚體系迅速建立，國家機器按計劃有效運轉起來了。到了晚年，朱元璋對知識分子大開殺戒。於是洪武朝的知識分子，遭遇了人類史上罕見的浩劫，上流精英幾乎被一掃而光。雖然朱元璋越來越看不起知識分子，但他對知識分子的防範戒備心理卻絲毫沒有放鬆。起因是「士誠小人」這個典故。
洪武初年，因不滿朱元璋的重文輕武，一位武臣對朱元璋大講知識分子的壞處。他說，這些人心胸狹窄，嘴巴又刻薄，經常變著法地罵人：「讀書人用心歹毒，特擅譏訕，如不警覺，即受其愚弄。」還說張九四(張士誠)原為優禮文人，請他們給自己改名，哪成想他們竟給他取名「士誠」。朱元璋說，這名字很好啊，有什麼毛病？
武臣說：毛病大了去了。我的幕僚跟我講，《孟子》上說了，士，誠小人也。這是罵張士誠小人啊！朱元璋聽後，立即找《孟子》來查，發現果然有這句話。他不禁竦然而驚：張士誠也算半個君王，給人叫了半輩子小人，到死都不知道，真是可憐。無非是讀書人欺負他鹽販子出身，瞧不起他，才敢這樣捉弄他。而他朱元璋出身和尚乞丐，肯定更被他們瞧不起。從此朱元璋就開始對文臣們大起疑心，閱讀奏章也多了個心眼兒。
朱元璋口口聲聲稱自己是「淮右布衣」、「江左布衣」、「起自田畝」、「出身寒微」，顯得十分豪爽坦率。但這些話只能他自己說，別人可千萬不能說。實際上，做過乞丐與和尚一直是朱內心深處最大的一塊傷疤，萬萬觸碰不得。大明臣民其實誰也沒有膽子也沒有興趣當著朱元璋提這壺水，但朱元璋卻成天疑神疑鬼，防範過度，自己暗暗制定了一系列奏章「敏感詞」。但凡「光」、「禿」、「僧」等與和尚沾邊的字眼兒，都會犯他禁忌。因為是起義起家，所以也討厭人提「賊」和「寇」。大臣們慢慢知道了他的忌諱，就不再用這些字，朱元璋卻更不放心，總懷疑別人會更加拐彎抹角地罵他，遂將防區無限擴大，到了極為可笑的程度。比如「生」字，因為音近乎「僧」，在他看來就不懷好意;「則」字也很危險，因為「則」在淮西方言中發音與「賊」同。
因為這些秘密的敏感詞兒，無數人人頭落地。慘烈浩大的洪武文字獄，一方面反映了朱元璋的殘酷，另一方面也反映了他在知識分子面前無法消除的深刻的自卑心理。