李淵大軍包圍河東後，屈突通已做好長期堅守的準備，仍憑李淵如何挑釁，就是不出戰。
河東久攻不下，李淵心裡十著急，想親自帶兵直取長安，卻被裴寂攔下，說：「長安一直就靠屈突通的支援，如果屈突通敗，長安必破。如果現在繞過屈突通去攻長安，萬一攻不下，就一定會受到屈突通的攻擊，到時候腹背受敵，我們就很危險了。」
李世民隨即反對，說：「兵貴神速，趁如今節節勝利，四方豪傑加入，軍心振奮，最好一鼓作氣直取長安，就如摧枯拉朽一樣容易；如果久攻不下，軍心必亂。且關中有那麼多兵馬豪傑，可招撫為我所用。即使屈突通有廉頗之志，也無力回天。」
李淵覺得兩人講的都有道理，最後乾脆折中吧：一部人馬繼續圍攻河東，自己則親率大軍直取長安。
不久，義軍渡過黃河，抵達同州朝邑，法曹靳孝謨打開蒲津、中單二城投降。就在同一天，華陰縣令李孝常也來降。
這個李孝常不簡單，他是隋朝大將李園通的兒子，也是李淵妻子竇惠家族的女婿。在江都的楊廣知道他投降李淵後，將他的弟弟全部殺死。
得到一個大將還不說，李淵沒花一兵一卒就得到當時京師附近的重要糧倉--永豐倉。要知道，楊玄感之所以敢決心反叛，重要的一個原因就是攻下了永豐倉。
永豐倉儲備有隋帝國大量的糧食，不僅解決了李淵義軍的軍糧問題，還可賑濟饑民，安定民心。因此，李淵睡覺時還偷著樂。
此外，丟了永豐倉，楊廣想返回長安的希望就破滅了，而隨他前往江南旅遊的那些關中將士，老婆孩子家人都尚在關中，怎麼可能會跟著楊廣繼續待在江南呢？
聽說李淵開倉放糧，四面八方餓得發慌難民紛紛湧向軍營，特別是男人們，吃飽了就報名參軍。李淵的義軍一下猛增至二十多萬。
有如此實力，一些關中英雄豪傑也都願投到李淵麾下，如長孫無忌、竇軌、於志寧（八柱國之一戰略家於謹的曾孫，預修過《隋書》）和顏師古（名儒顏之推的孫子）。
軍隊有了，軍糧也解決了，李淵讓李建成、劉文靜等率數萬人駐軍永豐倉，兼守潼關；同時命李世民率數萬人在渭北。
一切安排就緒後，李淵繼續兵指長安。