隋煬帝第一次進攻高麗，被打得大敗。一百多萬隋軍兵士，逃回來的只有二千七百人。這樣的慘敗，並沒有使這個驕橫的暴君死心。才隔一年，他又發動第二次對高麗的進攻。他親自率領大軍攻打遼東，派大臣楊玄感在後方黎陽督運糧草。
楊玄感的父親楊素，原是隋煬帝的親信，幫助煬帝奪取皇位。後來受到煬帝猜忌，鬱鬱不樂地死去。楊玄感為這個對隋煬帝早就不滿，這一回看到局勢混亂，就想利用這個時機推翻隋煬帝。
楊玄感用督運糧草的名義，征發了年青力壯的民伕、船工八千多人，要他們運糧到遼東前線。那些年青人怨透了勞役，聽說叫他們遠離家鄉去幹苦差使，更加氣憤。
有一天，楊玄感把民伕集合在一起，說：「當今皇上不顧百姓的死活，讓成千上萬的父老兄弟死在遼東，這種情況不能再忍受下去。我也是被逼來幹這件事的。現在我決心跟大夥一起，推翻暴君。你們看怎麼樣？」
大夥兒一聽有人帶頭反對朝廷，怎麼不願意，頓時響起一片歡呼聲。
楊玄感把八千民伕編成隊伍，發給武器，準備進攻隋軍。他發現他身邊缺少一個謀士幫他出謀劃策，不禁想起了正在長安的好朋友李密。
李密的上代是北周和隋朝的貴族。李密少年時候，被派在隋煬帝的宮廷裡當侍衛。他生性靈活，在值班的時候，左顧右盼，被隋煬帝發現了，認為這孩子不大老實，就免了他的差使。李密並不懊喪，回家以後，發憤讀書，決定做個有學問的人。
有一回，李密騎了一條牛，出門看朋友。在路上，他把《漢書》掛在牛角上，抓緊時間讀書。正好宰相楊素坐著馬車在後面趕上來，看到前面有個少年在牛背上讀書，暗暗奇怪。
楊素在車上招呼說：「哪個書生，這麼用功啊？」
李密回過頭來一看，認得是宰相，慌忙跳下牛背，向楊素作了一個揖，報了自己的名字。
楊素問他說：「你在看什麼？」
李密回答說：「我在讀項羽的傳記。」
楊素跟李密親切地談了一陣，覺得這個少年人很有抱負。回家以後，楊素跟他兒子楊玄感說：「我看李密這孩子的學識、才能，比你們幾個兄弟強得多。將來你們有什麼緊要的事，可以找他商量。」
打那以後，楊玄感就跟李密交上了朋友。
這回楊玄感要找謀士，想起他父親的叮囑，就派人到長安，把李密接到黎陽來。
李密到了黎陽，楊玄感向他請教：要推翻隋煬帝，這個仗該怎麼打法。
李密說：「要打敗官軍，有三種辦法。第一，皇上現在在遼東，我們帶兵北上，截斷昏君退路。他前有高麗，後無退路，不出十天，軍糧接濟不上，我們不用打也能取勝，這是上策。第二是向西奪取長安，抄他們的老巢。官軍如果想退軍，我們就拿關中地區做根據地，憑險堅守，這是中策。第三是就近攻東都洛陽。不過這可是一條下策。因為朝廷在東都還留著一部分守兵，不一定能很快攻得下來。」
楊玄感急於求成，聽完這三條計策，覺得前兩條都太費時間，說：「我看你說的下策，倒是個好計策。現在朝廷官員家屬，都在東都。我們攻下東都，把家屬都俘虜起來。官軍軍心動搖，保管能取勝。」
楊玄感立刻從黎陽出兵攻打東都，一路上，有許多農民踴躍參加起義軍，隊伍擴大到十萬人，接連打了幾個勝仗。隋煬帝正在帶領大軍猛攻遼陽，得到告急文書，連夜退兵，派大將宇文述等帶領大軍分路攻楊玄感。楊玄感抵擋不住，想往西退到長安去。宇文述帶兵跟蹤追擊，最後，把楊玄感的人馬圍住。楊玄感沒路可走，終於被殺。
李密從混亂中逃了出來，想偷偷地逃回長安。但是隋軍搜捕得很緊，李密還是被抓住了。
隋將派兵把李密押送到隋煬帝的行營去。半路上，李密跟十幾個犯人一商量，把他們隨身帶的錢財都送給押送的隋兵，供他們吃喝。隋兵受了他們的賄賂，喝酒作樂，防備鬆懈下來。李密他們就趁隋兵酒醉糊塗的時候，瞅個機會跳牆逃跑了。
李密脫離危險以後，想另找機會，反抗隋朝。他想找個起義軍的首領作靠山，但是有的起義軍首領看他是個文弱書生，不大重視他。李密沒辦法，只好改姓換名，東躲西藏，幾次險點兒被官府抓去。最後，他聽說東郡（今河南滑縣東）瓦崗寨有一支起義軍，兵力很強。帶頭的叫做翟（音ｚｈaｉ）讓，為人厚道，又喜歡結交英雄，就決定上東郡去投奔瓦崗軍。