眾所周知，隋唐中國讓日本頂禮膜拜，而對於明中國，日本卻立而不拜。明太祖朱元璋登大寶之初，就對日本馬上做了一件事——派使臣向日本下國書。希望他們來朝拜新中華之主。但是，使臣到達日本後，令朱元璋驚呆的事發生了。洪武元年，他派永嘉侯朱亮祖鎮守廣東，在沿海要地設置衛所，派兵防守，同時發國書給日本諸國（當時日本正處於分裂的「南北朝」時期）表達了自己希望與日本諸國建立睦鄰友好關係，一起消滅倭寇，共享太平之福的願望。但當時的日本幕府將軍足利義詮以「倭寇乃九洲海賊所為，日本政府根本就不知道」為由予以搪塞。
洪武二年，著眼於長遠利益的朱元璋又派楊栽等七人出使日本，並親自寫了一封措辭嚴厲的信威脅「倭寇」。接到信後，日本國的懷良親王不知中國已經改朝換代，誤以為依舊是蒙古使者（蒙古曾攻打日本），大怒，斬殺使者五人，其他的悉數扣留，朱元璋的這一次交涉毫無成果可言。洪武三年三月，不死心的朱元璋又派萊州府同知趙秩等再次出使日本。趙秩經過一番驚險的周旋和唇槍舌劍後，終於軟化了懷良親王的立場。懷良親王派和尚祖來捎帶了大量的貢馬和土特產向明朝「奉表稱臣」，而且還送還了之前被倭寇抓去的中國人。明太祖曾召見來華的日本僧人，才瞭解到一直以來與之打交道的懷良親王並非日本國王，而博多、太宰府亦非日本之京城，並知道了在京都另有朝廷和天皇。他開始對自己原先計劃通過外交途徑敦促日本抑制倭寇侵擾的做法感到懷疑，從此對一切非日本朝廷派來的貢使一概拒絕接受。
洪武十三年，日使再次來貢，情況同前幾次一樣也是沒有表文，但帶了一封日本征夷將軍源義滿的奉丞相書，文章寫得極其囂張，朱元璋看後很不開心，便拒絕了日本的朝貢。洪武十四年日本再次來貢，朱元璋又一次推卻，並讓禮部寫了一封信責備日本國王和他們的那個征夷將軍：「王居滄溟之中，傳世久長，今不奉上帝之命，不守己分，但知王環海為險，限山為固。妄自尊大，肆毀鄰邦，縱民為盜。上帝將假手於人，禍有日矣。吾奉至尊之命，移文與王。王若不審巨微，效井底蛙，仰觀鏡天，自以為大，無乃構嫌之源乎？」。
日本方面不甘示弱，也回了一封極其強硬的信，而且文采斐然：「臣聞三皇立極，五帝禪宗，惟中華之有主，豈夷狄而無君。乾坤浩蕩，非一主之獨權，宇宙寬洪，作諸邦以分守。蓋天下者，乃天下之天下，非一人之天下也。臣居遠弱之倭，褊小之國，城池不滿六十，封疆不足三千，尚存知足之心。陛下作中華之主，為萬乘之君，城池數千餘，封疆百萬里，猶有不足之心，常起滅絕之意。夫天發殺機，移星換宿。地發殺機，龍蛇走陸。人發殺機，天地反覆。昔堯、舜有德，四海來賓。湯、武施仁，八方奉貢……」
朱元璋看了這封表文大怒，史載「帝得表慍甚」，但考慮到元朝兩次出征日本損兵折將的前車之鑒，朱元璋忍住了這一口惡氣。雖然如虎將李文忠者也曾建議朱元璋征日本以雪前恨，但朱元璋在深思熟慮之後還是沒有率領大明朝的舟師東渡。不過這一件事後，朱元璋改變了以往企圖交好日本的策略，而改為在內部積極設防，在沿海各地加強防守和衛所建設等，盡量減少倭寇造成的損失。最後他以日本支持胡惟庸造反為由，於1387年（洪武二十年）果斷地斷絕了跟日本的往來。把日本列為「不庭之國」，永遠不准日本來中國貿易，並把這寫入了傳給後世子孫萬世不變的《皇明祖訓》中。