秦軍在長平大敗趙軍以後，公元前261年，圍攻趙都邯鄲，趙國危在旦夕。趙王很著急，忙召平原君進宮，商討讓秦國退兵的方法。平原君說：“看現在的局面，只好向其他國家求助了。我和魏王的弟弟信陵君是姻親，我們向來關係很好，可以求他發兵援助。楚國國力很強，但是離我們太遠了，不如向它提議，幾個國家聯合起來，共同對抗強秦。這件事我願意親自前去。”趙王同意了。
平原君是戰國時期有名的公子，對有才德的人以禮相待，不計身份前去結交，所以很多人投奔他。平原君門客眾多，毛遂在最末的那一列。平原君回府後，立即召集門客，把即將出使楚國，聯合彼此抵抗秦國的事告訴他們，並說，這一次去楚國，希望可以選二十個人一同前往。平原君說：“這一次去楚國，要求合縱，訂立盟約，關係到邯鄲能不能守住、趙國是存是亡，關係重大，所以只許成功不許失敗。如果和平談判不行的話，就只好使用武力逼迫，所以選出來的二十個人必須要文武雙全。大家都是有才德的人，況且事發緊急，這二十個人就從你們當中選擇吧。”
平原君門客雖多，但是能文的人不一定能武，能武的人不一定能文，選來選去只選出十九個，最後一個合適的人選怎麼找也找不到。平原君忍不住說：“我選賢任能幾十年，聚攏了這麼多門客，沒想到竟然連二十個人都選不出來。”
這時候，坐在最後面位置的毛遂站起來，說：“我雖然沒什麼才能，可願意隨同前往。”平原君看著這個人，覺得沒見過幾面，也沒聽身邊的人提起過他，故意考驗他說：“先生到我門下有多久了？”毛遂回答：“有三年了。”平原君的目光裡立刻有了輕視的意思，說：“真正有才德的人在這個世界上，好像放在口袋裡的一把錐子，很快就能扎破口袋，引人注目。現在，先生到這裡已經有三年了，我卻從來沒有聽人提起過先生，可見，先生無論文武都算不上上等。何況，楚國一行關係到國家的存亡，這麼重大的使命，以先生的本事恐怕難以承擔，先生還是留在這裡吧。”
平原君這麼說，毛遂卻絲毫沒有退縮，他馬上回答：“您說得有道理。有才德的人在這個世界上，是能表現出才德來的，但是要想表現才德，首先要有表現的機會。您以知人善任、以禮待人而為人稱道，但是，如果您沒有趙國公子這樣的名號，又有幾個人知道您知人善任，您又怎麼會有今天的地位呢？我之所以沒能被人注意到，也是因為沒有機會進到口袋裡，不然早就從口袋裡出來了，而不只是扎破口袋而已。”毛遂對答流暢，說理清晰，讓平原君甚為驚奇。時間緊急，平原君不可能再去其他地方尋找人選，於是同意了讓他隨行。
另外十九個隨行的人雖然也聽到了毛遂的話，但沒有一個人把他放在心上。他們覺得這個人不過是會耍嘴皮子罷了，於是彼此對笑，笑他自不量力。這十九個人都自認為學識淵博，一路上侃侃而談，說東論西，針砭時弊。而毛遂總是一言不發，但偶爾發言，必定一針見血，見解透徹。等他們一行到了楚國，另外的十九個人已經對他心服口服。
軍情緊急，平原君到楚國後，第二天一大早就連忙趕到楚國朝堂，和楚王商討六國合縱的事。楚王說：“六國合縱本來就是趙國發起的，但從沒能讓聯盟穩固。大家先是擁立懷王做縱約長，一起領兵討伐秦國，沒能攻下它；後來又擁齊王做縱約長，但是每個國家都想著自己的利益，聯盟不成又失敗了。到了現在，六國合縱這件事都成了大家的避諱，就算結成聯盟，六個國家各有各的心思，也攏不到一塊兒，沒用的。更別說以秦國現在的國力，哪一個國家能跟它對抗呢？還是各安一方求自保才是良策啊。而且秦國和楚國才剛結交，約定從此以後友好往來，如果楚國又跟趙國聯合起來，這不就違背了跟秦國的盟約嗎？這樣做一定會惹來刀兵之禍，不就等於替趙國背黑鍋了嗎？合縱的事還是不要再提了！”楚王畏懼強秦不敢答應。平原君再三懇請，陳述利弊，直到中午都沒能說服楚王。
毛遂和其他十九個門客在外面等著，久等不見平原君出來，於是十九個人便對毛遂說：“先生去看看。”毛遂不發一言，直接提起劍上了台階，昂首闊步走到殿內，問平原君：“六國合縱的事，只要說清楚利弊，不過幾句話的問題，怎麼談了一上午還談不出個結果呢？”楚王一看，這個人居然敢提著劍直闖進殿，而且說出來的話這麼沒有禮貌，很生氣。但他又不知道毛遂的來歷，被這個人的氣勢震住了，不敢貿然呵斥，於是先問平原君：“這個人是誰？”平原君說：“這是我的門客毛遂。”楚王立刻大聲斥責起來：“放肆！我和你的主人商討國家大事，哪裡容你插嘴，還不趕快出去！”
毛遂毫不畏懼，提劍上前，慷慨陳詞：“六國合縱，事關天下，天下的人都可以說，更何況你在我的主人面前斥責我，是想給誰難堪呢？你不過是仗著楚國人多勢眾，現在我和你之間不過十步，楚國人再多也幫不上你什麼。我想要你的命，隨時都可以，你威風什麼呢？況且當年商湯只有七十多里的土地，照樣稱霸天下；周文王只有百餘里的土地，照樣能讓天下信服，他們哪一個是憑借人多，仗勢欺人的呢？堂堂楚國，方圓五千里，兵卒百萬，條件足以稱霸了吧，沒想到偏偏被秦國壓制，敗仗連連，就連國君也成了秦國人的俘虜，大王難道不覺得羞恥嗎？六國聯合抗秦，不只是為了趙國，更是為了楚國，您卻游移不定，左搖右擺，這樣不覺得窩囊嗎？”一席話，說中了楚王的痛處。
楚王無言以對，連連點頭。毛遂問：“那麼，合縱一事同意嗎？”楚王忙答：“同意，同意。”毛遂立刻命令楚王的侍從：“拿血來！”侍從將裝血的銅盤端上。毛遂托起銅盤，雙手呈給楚王，說：“那就歃血為盟，大王先，主人次，毛遂跟。”說完，又招呼朝外的十九個人說：“先生們在堂下跟飲吧！你們這些不頂用的人，只能依靠別人才能成事，不是嗎？”
平原君回國後，感慨地說：“我自以為慧眼識珠，不會遺漏任何一個可用的人才，沒想到毛先生跟隨我三年，我都沒能看到他的才幹。毛先生在楚國朝堂，不只談成了六國合縱的事，還為趙國贏得了尊嚴。您的三寸不爛之舌，勝過了百萬雄師啊。從今以後我再也不敢自稱是個伯樂了。”從此，毛遂成了平原君的上等門客。