在李淵籌備建立新王朝之時，北部有一支隊伍也在同時蓬勃發展，他便是劉武周所建立的勢力。本為馬邑鷹揚府校尉的劉武周，眼看天下大亂、群雄競起，便殺死太守王仁恭起兵。他自知自己的實力並不大，所以向北方的突厥諂媚求救，在得到始畢可汗相助之後迅速佔領了雁門、樓煩、定襄等郡縣，迅速發展成一支北方的割據勢力。劉武周也自稱為皇帝。
新生的唐王朝誕生了，它像一個嬰兒一樣急需得到呵護，但是它的四周卻強敵環伺。表面上，李淵似乎對於如何對付這些敵人成竹在胸，但事實上卻處於非常被動的地位。首先向唐發難的是位於西北的薛舉父子，李淵讓李世民領兵應對。而對於虎視眈眈的其他隊伍，只能先行安撫，絕不首先發難，以免引火燒身。
但事情的發展並不如李淵所期望的那樣，武德二年（公元619年），位於北方的劉武周不斷舉兵來犯，這個比唐王朝早一年建立的政權，在突厥的支持下，攻城略地，不出幾個月的時間，唐的地盤就被佔領了榆次、介州、石州等地。屢屢戰敗讓李淵憂心忡忡，但前方還是不斷傳來他不想听到的消息。
九月的一天，李淵在長安的皇宮中，無心飲酒賞菊，正打算傳喚裴寂、唐儉等人對當前的戰局計議一番，卻忽然有人來報，說鎮守并州的齊王李元吉求見。李淵快步來到殿前，只見李元吉匍匐在地，一副狼狽相，他的哥哥太子李建成站在一邊不知所措。李淵忙問：“現在邊關告急，劉武周已經快要進逼到并州了，你怎麼在這個時候突然回來了呢？”
李元吉匍匐在地上，頭也不敢抬，只是低聲說：“求父皇恕罪！”
李淵見他那副模樣，又急又氣，對他說：“你快點起來，把事情說清楚。”
李建成見狀，忙上前說：“父皇先不要著急，容兒臣禀告：劉武周兵強將勇，在我們得到消息說他要進攻并州的時候，其實已經兵臨城下了。他帶著一隊突厥兵圍困并州，揚言要屠城。四弟眼見得併州守不住了，所以……”
“所以怎樣？”
“所以，他就棄城而回了……”
李建成吞吞吐吐地將事情敘述了一遍，李淵感覺氣血攻心，拿起桌上的玉如意就要砸李元吉：“你這個不肖子！大敵當前，守將棄城！沒有一點骨氣，你愧對李家先人啊！”
李元吉自知理虧，不敢抬頭，只是一個勁兒地懇求饒命。李建成也在一邊不斷安慰李淵，但如此輕易就失去并州，不僅損失慘重，更重要的是李元吉的行為讓李淵覺得蒙羞。他大聲喝令：“將這個棄城之將給我推出去斬首，以儆效尤！”
眾人一聽大駭，忙跪下求情。只聽門外有人朗聲道：“父王息怒，刀下留人！”
來人正是秦王李世民，自從平定了薛舉、薛仁杲父子之後，秦王在朝堂上的地位有了大幅提升，李淵對他的建議多有聽從，信任的程度超過了太子李建成。李元吉看到李世民，就像抓住了救命稻草，急忙大喊：“二哥救我！”
李世民拜見了李淵，先是安慰他不要生氣，然後分析了一下當前的局勢，對他說：“現在劉武周氣勢如虹，兵鋒甚盛。此前我們無暇顧及，但現在西北的薛舉已經平定了，目前正好可以全力來對付他。”
聞訊趕來的裴寂說：“現在我軍節節失利，此前的介州、石州暫且不提，這一次丟了并州，只怕晉州和龍門都不保了。”
李淵撫著額頭，皺眉問李元吉：“現在前方戰況如何？”
李元吉囁嚅著說：“此時恐怕是晉州以北全部失陷了。”
李淵聽到這一句，又是一陣眉頭緊皺。這一切都在他的預料之中，棄城而歸的守將所帶來的將是如山傾倒一樣的士氣頹廢，所以各地守城的將士肯定不能力保城池。表面上李元吉所放棄的是并州，但其實他傷害了唐軍的戰鬥信心。一旦失去了戰鬥的信心，那便是兵敗在即。
眾人正在絞盡腦汁苦思之際，前方又傳來線報，夏縣人呂崇茂殺掉了縣令，舉兵造反，響應劉武周；而一直在蒲坂頑抗的隋朝舊將王行本也忽然向唐軍發難，提出要和劉武周合力，進攻長安。這一消息傳來，無疑是雪上加霜。李淵一下子跌坐在龍椅上慨嘆：“難道這是天要絕我大唐嗎？！”
李世民眼看滿堂文武都頹然的樣子，心裡一驚。他知道，越是這種時候，越不能失掉信心，一旦心中認定自己必敗，那麼就算僅存的一點勝算，也會消失殆盡。他忙問李元吉：“現在前方還有哪座城池是我們的？”
李元吉仔細想了想，說：“我退兵之後，目前只有河西獨存了。”
李世民問：“駐守河西的是什麼人？”
裴寂說：“是浩州刺史劉贍，以及行軍總管李仲文兩人。”
李淵聽了，無力地搖搖手說：“大敵當前能堅守，這兩個人看來是忠肝義膽。現在大勢不再，我不希望他們倆有任何閃失，就讓他們撤兵回來吧！其他的事可以從長計議。”
李世民急忙上前一步說：“萬萬不可！現在大敵當前，敵人又節節進逼，只怕我軍的信心已經所剩無幾。現在劉贍和李仲文在前方堅守，可以說是我們最後的一道屏障。如果連他們都撤退回來了，只怕我大唐的軍心就像決堤的洪水一樣渙散掉了！”
李淵皺著眉說：“但現在的情形，又能怎麼辦呢？就算我們不放棄河西，也遲早被劉武周打敗奪走。”
李世民思慮再三，說：“請父皇給我三万精兵，我願意領兵北征，阻攔劉武周！”
這一提議讓李淵大為吃驚，臨危受命所面臨的困難是可想而知的。現在李世民主動請命，無疑是要將自己推到最艱難的境地去。他說：“現在前方大勢已去，就算你去了，也起不了多大作用。倒不如退一步，勤加操練，等劉武周攻來時，我們再作阻攔。”
李世民卻堅持說：“軍心就好像洪水，一旦有一個缺口，就會狂瀉。我們現在已經處處遇難，如果再不積極補救，勢必會讓士氣低落。到那個時候，就算操練再多，沒有士氣的將士們也打不了勝仗。所以，我現在請命主動到前方去迎擊，也許並不一定能夠獲勝，但對於我們的士氣一定是有用的。我要讓將士們看到，大唐的勇士不會懼怕這些賊寇！我們不僅要迎敵，而且要主動迎敵，就算不能獲得勝利，也要保持勇士的尊嚴！”
李世民的一席話，說得堂下諸將一個個熱血沸騰，也讓李元吉羞紅了臉。李淵慎重想了半晌，語重心長地說：“此一去，不求軍功，只願你能平安回來！”
李世民帶著三万精兵，與兵部尚書殷開山、總管秦叔寶一起直奔龍門關，自己直面劉武周，同時派遣了永安王李孝基、工部尚書獨孤懷恩和內史侍郎唐儉平定夏縣呂崇茂，兵分兩路和敵軍對峙。
來到龍門關後，李世民親自查看地形，掌握敵情，對殷開山和秦叔寶說：“目前我們的兵力和劉武周相比，確實弱小不少。而更關鍵的是現在我軍士氣大跌，人人自危。大家都覺得我們絕對不是劉武周的對手，何況還有一個隋將王行本。所以，都認定了我們此行必輸無疑，都在為自己想退路。”
秦叔寶說：“是啊，這幾天，軍中一直都有傳言，將劉武周所統領的突厥兵說得一個個勇猛無比。這對我們自己是大不利。”
李世民說：“對，所以我們現在最重要的不是奪回失地，而是重建軍心。兩位將軍認為應該怎麼辦呢？”
殷開山說：“那還用說，要想重建軍心，只需打幾次勝仗，大家自然就士氣高昂了！”
李世民點點頭，說：“但現在我們沒有太多的實力去打，因此只能出奇兵了。”
在李世民和秦叔寶、殷開山的帶領下，唐軍以輕騎出兵，以三千人為隊伍不斷出兵侵襲，對敵軍形成騷擾之勢。在夏縣、美良川等地，以伏擊、突襲等方式不斷打擊劉武周的部下尉遲恭、尋相、宋金剛等，在保證自身減少損失的情況下，獲得了一個個小胜利。這些小胜利的作用卻不容低估，唐軍本來低沉的士氣逐漸恢復，諸將紛紛請命迎擊劉武周、宋金剛。這在并州淪陷之後，對於唐軍的信心重建是一個非常了不起的成就，為唐軍以後的勝利奠定了堅實的基礎。