宋太祖花了十三年工夫，滅了南方五國，接著，就出兵攻打北漢都城太原。北漢請遼朝出兵援助，宋軍吃了敗仗。不久，宋太祖也得病死去，他的弟弟趙匡義繼承皇位，這就是宋太宗。
宋太宗決心完成統一北方的事業，公元９７９年，他親自率領四路大軍圍攻北漢都城太原。遼軍又來援助，宋太宗派兵截斷援兵要道。太原城在宋軍重重包圍之中，外無援兵，內無糧草。北漢國主劉繼元沒法，只好投降。劉繼元手下有一名老將楊業，也歸附宋朝。宋太宗早就听說楊業武藝高強，十分器重他，任命他做大將。
宋太宗滅了北漢，想乘勝攻打遼朝，收復北方失地。宋軍攻勢凌厲，北方有幾個州的遼朝守將紛紛投降。宋軍一直打到幽州（今北京市）。後來，遼朝派大將耶律休哥救援。雙方在高梁河（今北京市城西）打上一仗，宋兵大敗，宋太宗乘了一輛驢車，逃回東京。
打那以後，遼軍不斷襲擊宋朝邊境。宋太宗十分擔心，就派楊業為代州刺史，扼守雁門關。
公元９８０年，遼朝派了十萬大軍攻打雁門關。那時候，楊業手下只有幾千人馬，兵力相差很大。楊業是個有經驗的老將，知道靠硬拼是不行的，就把大部分人馬留在代州，自己帶領幾百名騎兵，悄悄地從小路繞到雁門關北面敵人後方。
遼兵向南進軍，一路上沒遇到抵抗，正在得意。忽然，後面響起一片喊殺聲，只見煙塵滾滾，一支騎兵從背後殺來，像猛虎衝進羊群一樣，亂砍猛殺。遼兵毫無防備，又弄不清後面來了多少人馬，個個心驚膽戰，陣容大亂，哪兒還抵擋得了，紛紛向北逃竄。楊業帶兵追趕上去，殺傷大批遼兵，還殺死了一名遼朝貴族，活捉了一員遼將。
雁門關大捷以後，楊業威名遠揚。遼兵一看到“楊”字旗號，就嚇得不敢交鋒。人們給楊業起了個外號，叫做“楊無敵”。
楊業立下大功，也引起一些邊防將領的妒忌。有人給宋太宗上奏章，說了楊業許多壞話。宋太宗正要依靠楊業，不理睬那些誣告，把那些奏章封好了，派人送給楊業。楊業見宋太宗這樣信任他，自然十分感動。
過了幾年，遼景宗耶律賢死去，即位的遼聖宗耶律隆緒才十二歲，由他的母親蕭太后執政。有個邊將向宋太宗上奏章，認為遼朝政局變動，正好趁這個機會收復燕雲十六州失地。
宋太宗接受了這個意見。公元９８６年，宋太宗派出曹彬、田重進、潘美率領三路大軍北伐，並且派楊業做潘美的副將。
三路大軍分路進攻，旗開得勝。潘美、楊業的一路人馬出了雁門關，很快就收復了四個州。但是曹彬率領的主力因為孤軍深入，後來被遼軍殺得大敗。宋太宗趕快命令各路宋軍撤退。
潘美、楊業接到命令，就領兵掩護四個州的百姓撤退到狼牙村。那時候，遼軍已經佔領寰州（今山西朔縣東，寰音ｈｕaｎ），兵勢很猛。楊業建議派兵佯攻，吸引住遼軍主力，並且派精兵埋伏在退路的要道，掩護軍民撤退。
監軍王侁（音ｓｈeｎ）反對楊業的意見，說：“我們帶了幾万精兵，還怕他們？我看我們只管沿著雁門大路，大張旗鼓地行軍，也好讓敵人見了害怕。”
楊業說：“現在敵強我弱，這樣乾一定要失敗。”
王侁帶著嘲笑的口吻說：“楊將軍不是號稱無敵嗎？現在在敵人面前畏縮不戰，是不是另有打算？”
這一句話把楊業激怒了。他說：“我並不是怕死，只是看到現在時機不利，怕讓兵士們白白喪命。你們一定要打，我可以打頭陣。”
主將潘美也支持王侁的主張。楊業無可奈何，只好帶領手下人馬出發了。臨走的時候，他流著眼淚對潘美說：“這個仗肯定要失敗。我本來想看準時機，痛擊敵人，報答國家。現在大家責備我避敵，我不得不先死。”
接著，他指著前面的陳家峪（今山西朔縣南，峪音ｙu）對潘美說：“希望你們在這個谷口兩側，埋伏好步兵和弓弩手。我兵敗之後，退到這裡，你們帶兵接應，兩面夾擊，也許有轉敗為勝的希望。”
楊業出兵沒有多遠，果然遭到遼軍的伏擊。楊業雖然英勇，但是遼兵像潮水一樣湧上來。楊業拼殺了一陣，抵擋不住，只好一邊打一邊後退，把遼軍引向陳家峪。
到了陳家峪，正是太陽下山的時候。楊業退到谷口，只見兩邊靜悄悄，連宋軍的影兒都沒有。潘美帶領的主力到哪兒去了呢？原來楊業走了以後，潘美也曾經把人馬帶到陳家峪。
等了一天，聽不到楊業的消息，王侁認為一定是遼兵退了。他怕讓楊業搶了頭功，催促潘美把伏兵撤去，離開了陳家峪；等到他們聽到楊業兵敗，又往另外一條小道逃跑了。
楊業見約定的地點沒人接應，氣得直跺腳，只好帶領部下轉身跟追上來的遼兵展開搏鬥，兵士們個個奮勇抵抗。但是遼軍越來越多，到了後來，楊業身邊只有一百多個兵士他含著淚，高聲向兵士說：“你們都有自己的父母家小，不要跟我一起死在這裡，趕快突圍出去，也好讓朝廷得知我們的情況。”
兵士們聽了這些話，再看看楊業浴血奮戰的情景，感動得都流下熱淚，沒有一個願意離開楊業。最後，兵士都戰死了，楊業的兒子楊延玉和部將王貴也犧牲了。楊業身上受了十幾處傷，渾身是血，還來回衝殺，殺傷了幾百名敵人。不料一支箭飛來，正射中他的戰馬，馬倒在地下，把他摔了下來。遼兵乘機圍了上來，把他俘虜了。
楊業被俘以後，遼將勸他投降。他抬起頭嘆了口氣說：“我楊業本來想消滅敵人，報答國家。沒想到被奸臣陷害，落得全軍覆沒。哪還有臉活在世上呢？”他在遼營裡，絕食了三天三夜，就犧牲了。
楊業戰死的消息傳到東京，朝廷上下都為他哀痛嘆息。宋太宗喪失了一名勇將，自然也感到難過，把潘美降職處分，王侁革職查辦。
楊業死後，他的後代繼承他父親的事業，兒子楊延昭、孫子楊文廣在保衛宋朝邊境的戰爭中都立了功。他們一家的英勇事蹟受到人們的傳誦和讚美，民間流傳的楊家將故事，就是根據他們的事蹟發展起來的。