呂端不是進士出身，但他最後卻成為宋太宗、宋真宗時期的宰相。
呂端，字易直，幽州安次(今河北廊坊)人。呂端是恩蔭入仕的，其父呂琦，曾任後晉兵部侍郎。父親死後，朝廷撫恤老領導家屬，給呂端安排了一個名為「千牛備身」的侍衛職務，呂端從此步入仕途。五代亂局中，他曾歷任國子主簿、太僕寺丞、秘書郎、直史館等職。宋朝建立後，呂端歷任太常丞、浚儀知縣、洪州知州、成都知府、參知政事等職，最後當上宰相。宋朝是文人的天下，「萬般皆下品，唯有讀書高」，士大夫歷來瞧不起考不上進士而靠祖上的蔭德入仕者。所以，呂端作為一個沒有「文憑」的大老粗，坐穩交椅本已不易，而步步高陞成為宰相，領導滿朝狀元、進士出身的文人士大夫，則難上加難。據統計，北宋168年，前後共任用宰相71人，其中進士出身64人，非進士出身僅7人。呂端以非進士出身而歷任兩朝宰相，他有什麼過人之處呢？
宋太祖兄弟5人，兩個早亡，剩下趙光義和趙廷美兩個弟弟。宋太祖去世後，趙光義坐上皇位，成為宋太宗，這時，弟弟趙廷美與這位皇兄的關係就陡然微妙起來。原來，昭憲杜太后臨終前，曾把兒子們叫到跟前交代遺言，確定了一個皇位繼承的順序：趙匡胤死後趙光義接任，趙光義死後趙廷美接任，再由趙廷美傳位給趙匡胤的兒子趙德昭或趙德芳。在兒子們都起誓保證後，杜太后把遺言藏之於金櫃，安排謹密可靠的宮人守護，這就是正史、野史上均有記載的「金匱之盟」。按照「金匱之盟」，趙廷美是下任皇位繼承人。然而，精明的趙光義似乎不太願意看到弟弟接自己的班，他想傳位於子，所以，他對弟弟開始有了戒備猜忌之心。這層內心深處的想法，那群讀死書、死讀書的士大夫是不容易覺察的，但呂端洞若觀火。
太平興國四年，宋太宗親征太原，攻打北漢，打算安排趙廷美留守京城，趙廷美居然想接受，真是糊塗一時。為什麼這樣說呢？因為，外出的皇帝無論是巡視還是親征，最怕後院起火、禍起蕭牆。既然皇帝早已對這位皇弟有所猜忌，難道真的會讓他留守？不過是試探罷了。當時，趙廷美為齊王，任開封府尹兼中書令，呂端是他手下的判官。對此，趙廷美渾然不覺，歷來謹慎的呂端趕緊向這位憨齊王說：「皇上作為一國之君，不顧艱危，浴血親征。您作為親王，應該主動請纓，扈從左右，為皇上分擔。您如今貪圖安逸，答應留守，不合時宜啊。」呂端建議他推辭留守之任，主動請求從征。趙廷美依計行事，請求出征。宋太宗當然同意，而且顯得十分高興。呂端參謀得當，既符合宋太宗的希望，又讓齊王避免了嫌隙，皆大歡喜，可見呂端行事的穩妥與明智。
雖然立了一功，呂端卻沒有得到重用。不久，因為趙廷美王府的官吏違背皇上詔令，賄賂執事者買賣樹木，呂端被牽連獲罪，貶至地方。上天只把機會留給有準備的人，這話一點不假。在地方上，呂端政績良好，不久被提拔回京。
端拱元年，宋太宗給呂端委派了一個重要差事，出使高麗。作為大國使節，呂端謙和友好而又不卑不亢，大膽交涉而又嚴格謹慎，對於高麗王超越正常禮節性的饋贈一律拒絕。呂端此次出使，既出色完成了任務，又保持了大國的使節形象，為後來出使者樹下了典範。比如後來宋神宗元豐年間出使高麗的錢勰，就始終以呂端的成例執行，凡是呂端當時所拒絕的例外饋贈一律拒收。同時，值得一提的是，呂端一行經海道回國途中，天氣驟變，海上狂風大作，巨浪滔天，甚至把桅桿都吹斷了，一船人大驚失色，慌作一團。但是，領隊人呂端卻面不改色心不跳，始終安靜地坐在船上讀書，就像平時在家裡的書齋一樣，其沉著穩重可見一斑。呂端出使高麗的出色表現，給宋太宗留下了極為深刻的印象，呂端歸國後，宋太宗當即授他戶部郎中、判太常寺兼禮院，不久又重任為右諫議大夫。
宋太宗有九子，三子就是後來的宋真宗趙恆。長子趙元佐從小聰明機警，容貌極像宋太宗，深得宋太宗鍾愛。宋太宗曾長期把趙元佐帶在身邊，悉心教導，親自培養，先封衛王，又封楚王，並設法繞過「金匱之盟」，正式立趙元佐為太子。後來，宋太宗擔心趙廷美威脅自己的皇位，便誣陷趙廷美密謀造反，將趙廷美廢為庶人，安置於涪陵。在此過程中，趙元佐作為太子，不但沒站在父親這邊，反而實話實說，為叔叔申辯，受到父親最嚴厲的斥責。結果，趙元佐憂懼成疾，一夜之間瘋了。於是，太子人選只能重新選擇。經過慎重考慮，宋太宗把次子許王趙元僖作為太子人選，他按照培養太子的慣例，安排趙元僖出任開封府尹，先讓他歷練歷練。為避免重蹈趙元佐的覆轍，宋太宗決定選擇一位既穩重而又可靠的人輔佐趙元僖，這次，他又選擇了呂端，讓呂端以右諫議大夫兼任開封府判官，呂端因此成了許王趙元僖的幕僚。
然而，趙元僖亦是命運不濟。淳化三年，趙元僖忽染怪病，在很短的時間內暴病而死，年僅27歲，讓宋太宗悲痛欲絕。後來，有人把趙元僖的暴斃歸罪於他的愛妾張氏的專恣。震怒之下，宋太宗安排成立了專案組，就太子之死對相關人員追責，張氏被判死刑，左右親吏處以杖刑。呂端雖受趙光義器重，也被審問。
當時，御史武元穎、內侍王繼恩負責呂端的案子。兩人到呂府後說：「我們奉皇命來審問您。」呂端神色鎮定，回頭告訴隨從說：「去取我的官帽來。」這兩人說：「您不用這樣正式，我們隨便問問就好。」呂端說：「天子要訊問，我就是罪人，怎麼能在堂上面對主訊人呢？」隨即下堂，且有問必答。如此低調的態度，讓趙光義對呂端欣賞有加，所以並未重責，僅僅是給他降了職。
第二年，朝廷新設考課院(官署名，負責幕職州、縣官的升降)，重新調整官員，宋太宗召見部分遭到貶謫和安排為閒職的官員談心，想聽聽他們的想法。幾乎所有的官員都在向宋太宗訴說條件艱苦，淚流不止，頗有抱怨。輪到呂端對答時，他說：「臣先前輔佐齊王(趙廷美)，沒有監督好府內官員，貶謫商州，承蒙陛下不棄，隨即提拔回京。後來許王(趙元僖)暴病而死，臣實在罪責難逃，陛下又未嚴懲，讓臣仍在京任職，於臣來說，真是罪大而幸甚啊！如今，臣只要能得到一偏遠之州的副職就心滿意足了。」而宋太宗卻親切地說：「朕自然是瞭解你的。」這次，宋太宗不僅沒繼續貶呂端的官職，反而馬上讓他官復原職，隨即讓其出任樞密直學士。剛過一個月，又提拔其為左諫議大夫、參知政事(副宰相)。從此，呂端進入朝廷的核心決策層。
經過一段時期的歷練和考驗，宋太宗終於決定把宰相這一重擔交給呂端。據宋代文瑩《玉壺清話》記載，宋太宗決意任呂端為宰相之前，曾在一次宮中宴會上特作《釣魚詩》贈呂端，詩中把呂端比作周文王身邊的姜子牙，暗示將拜他為相，可見宋太宗對他的倚重和信任。然而，呂端卻和詩道「愚臣鉤直難堪用，宜問濠梁結網人」，以釣魚無術來比喻自己不堪宰相重任，請求宋太宗另訪賢達，亦見他的誠懇和謙遜。後來，當宋太宗把這個想法在近臣間拋出來的時候，有人因為呂端喜怒不形於色，說：「呂端為人糊塗。」宋太宗卻斬釘截鐵地說：「呂端小事糊塗，大事不糊塗。」至道元年，宋太宗最終拍板，提拔呂端為戶部侍郎、同中書門下平章事，正式拜呂端為宰相。
對於呂端，宋太宗比別人看得更准——不拘小節，大智若愚，是一個可以放權、放手、放心的能臣。為什麼這樣說呢？因為呂端從來不看重權力，不眷戀名位，任勞任怨，顧全大局。他任副宰相後，比他年輕20多歲的寇准隨後也被任命為副宰相，呂端不講資歷，請求排位時居寇准之下。呂端升任宰相，寇准仍為副宰相，他請求宋太宗下詔，讓寇准和他輪流掌印，一同處理國家大事。宋太宗雖然採納了呂端的這一建議，但規定凡大事都由呂端先定奪再上奏，實際上是再一次明確了呂端的最高權力。而呂端總是謙讓，許多大事均與寇准有商有量，從不專斷。
同時，呂端任職數十年，不蓄資產，輕財好施，常常資助貧病老弱。他任相多年去世以後，3個兒子甚至連辦婚事的錢財都不夠，只好用房屋作抵押借貸，才辦完婚事。最後，還是宋真宗出面，從內府撥專款，替他幾個兒子把房屋贖了回來。而同時代的那些宰執大臣和封疆大吏，許多人家都是廣廈千間、良田萬頃，家產子子孫孫幾代都可能花不完。所以，無論人品、官品，呂端都是那個時代少有的楷模，這也是他由一個名不見經傳的庶僚小官，一步步被提拔為宰相的根本原因。
宋人徐自明撰寫的《宋宰輔編年錄》中，記載了宋太宗授予呂端宰相之職時的詔書，詔書中有一段對他的評價說：「(呂端)簡直夷曠，宣慈惠和。挺王佐之偉材，負人倫之碩望。頃自擢參樞軸，再歷炎涼。運奇兵於廟堂，詢謀惟允;貢昌言於帷幄，謇諤可嘉。適當求理之辰，益見匪躬之節。矧又周知大體，多識舊章，用晦而明，中立不倚。」意思是呂端既有王佐之才，又有仁厚之心，是一個有氣節、有聲望、識大體、顧大局、剛正不阿的君子。這個評價，基本能反映出他在宋太宗心目中的印象，怪不得連前宰相趙普都曾說：「我看呂端在朝中的表現，得嘉賞未嘗喜，遇抑挫未嘗懼，真有宰相之器啊！」趙普是開國元老、兩朝宰相，日理萬機，目人無數，連他都評價呂端有宰相的才能和氣度，也足見呂端在士大夫群體中的形象和影響力。
呂端出任宰相後，果然不負厚望，處事穩妥，協調周全，而最重要的是，他能在關鍵的時候提最合理的建議，力挽狂瀾。
西夏曾是宋朝藩國。後來，李繼遷任西夏王，不但反叛宋朝，而且騷擾邊境，致使宋夏戰火連綿。一次戰鬥中，前線將士意外俘獲李繼遷的母親，邊將趕快報告宋太宗，並請示如何處置其母。當時，寇准任樞密副使，負責軍機，宋太宗因此叫寇准過去商量，最後決定對李繼遷母親就地正法，以報擾邊之仇、雪反叛之恨。寇准商量完出來，準備去發佈命令。當他路過呂端的辦公地時，呂端看到寇准行色匆匆，一貫謹慎的他感覺到前線肯定有大事，趕緊叫住寇准，細問端詳，聽說要斬首李母，他忙叫寇准暫緩發佈命令，等待他向宋太宗匯報溝通後再說。
呂端急速入宮拜見宋太宗說，當年項羽捕獲劉邦之父，項羽揚言要殺劉太公時，劉邦竟然無恥地說「願分我一杯羹」。這說明，凡舉大事者，危急關頭，常常是連至親也顧不上的，何況像李繼遷這樣的悖逆之人？今天殺其母，明日就能捕獲李繼遷嗎？如果不能，殺其母，不過是加深了對方的仇恨，堅定了對方反叛的信念罷了。宋太宗一聽，驚出一身冷汗，忙問應該如何處置。呂端建議，把李母安置在前線延州(今陝西延安)，好生贍養，以此招降李繼遷。宋太宗恍然大悟，連連稱善，還說，倘若不是你及時提醒，真的誤了大事我還渾然不覺呢。後來，李母善終於延州，不久李繼遷去世，李繼遷的兒子因為宋朝善待其祖母，便歸順宋朝。這一事件的始末和結果，再次證明了呂端的深謀遠慮和沉穩謹慎。
最能體現呂端的過人之處，還是在他牽頭處理改朝換代這一驚心動魄的大事上。皇帝駕崩，朝局就有變，權力就有爭，這是權力更替的「綜合征」，常有的事。宋太宗選擇皇位繼承人，因長子趙元佐既瘋，次子趙元僖既逝，便選擇了三子趙恆，這為宮廷鬥爭埋下了伏筆。宋太宗一過世，因為趙元佐依然在世，朝廷大臣便開始各為其主而針鋒相對，最後甚至磨刀霍霍。太監王繼恩牽頭，組織參知政事李昌齡、殿前都指揮使李繼勳、知制誥胡旦等一班實力派，決定擁立已經被宋太宗貶為庶人的趙元佐，理由是他是宋太宗長子，廢幼立長，名正言順。
眼看就要兵戎相見，李皇后趕緊安排王繼恩快步流星去請呂端來拿主意。這裡，李皇后使了個小計謀，沒安排其他太監去請呂端，單單安排「造反頭子」王繼恩親自去請，其用意不言自明。呂端一聽宋太宗去世，李皇后有請，知道情況有變，當機立斷，讓身邊人趕緊把王繼恩扣押，專人看管，同時跑步入宮。呂端到達後，李皇后正淚眼婆娑、一臉茫然不知所措的樣子。她對呂端說，如今皇帝剛剛駕崩，大臣們要立長子，你說如何是好？呂端鎮定自若地說，當時皇帝確定壽王(趙恆)為太子，就是為了今天能繼承大統，如今先帝屍骨未寒，怎麼能違背他老人家的遺願呢？他一邊耐心說服其他大臣，一邊讓人把太子趙恆侍奉到宋太宗的棺材前，明確其為皇位繼承人，是為宋真宗。
趙恆登基後，第一次坐殿召見諸位大臣時，因為垂著簾子，呂端擔心宦官們以趙元佐冒充趙恆，便站在殿下不拜，請求皇帝捲簾。趙恆捲簾後，呂端走上前去仔細辨認，確認是趙恆後才走下台階，率領群臣跪拜新皇帝。隨後，宋真宗與呂端商量，對陰謀另立趙元佐為皇帝的幾位大臣一一做了處置，以李繼勳為使相(宋初以皇親國戚、留守﹑節度使等加侍中﹑中書令﹑同平章事者皆稱使相)，安置於陳州;貶李昌齡為忠武軍司馬;貶王繼恩為右監門衛將軍，安置均州(今湖北丹江口);胡旦處理最重，被朝廷除名，流配潯州(今廣西桂平)。趙恆在老成持重的宰相呂端的精心安排下，登上了皇位，成為宋朝第三位皇帝。繼位之爭，終於沒有釀成同室操戈的苦果，就此來說，呂端功莫大焉。
宋真宗繼位後，每當接見大臣，對呂端都是恭恭敬敬，而且從不直呼其名。因為宮前階梯高，呂端體胖身高，行動不便，「特令梓人為納陛」，即在宮前製作較矮的木階梯，給予特別優待和照顧。宋真宗不但繼續請呂端擔任宰相，而且不斷加官晉爵，連加其右僕射、監修國史、太子太保等。呂端退休後，宋真宗時時派人問候賞賜。鹹平三年，呂端因病去世，享年66歲。呂端去世後，宋真宗不但為其蔭妻封子，還贈司空，謚號正惠，呂端實現了高位善終，得到了一個做大臣的最高禮遇。
經驗有時候其實很簡單。呂端一生經歷了刀光劍影的五代亂局，見證過黃袍加身的改朝換代，置身於宋初你死我活的權力爭奪，一直處於跌宕起伏的激流之間，驚心動魄，險象環生。但面對驚險，呂端都能從容面對，妥善化解。要說他這一輩子真的有什麼經驗值得總結的話，不過如此而已。當然，一個人處於權力巔峰，要真正做到榮辱不縈心，得意不忘形，臨危不懼，處事不亂，也不是一件特別容易的事情，故連毛澤東同志都對他佩服有加，有詩為贊曰：「諸葛一生唯謹慎，呂端大事不糊塗。」