金太祖經過一系列改革，金國體制日漸完備，國家初具規模。同時，金軍對遼的戰爭也頻頻告捷。可是，這時的阿骨打卻突然想要同遼國休戰。這究竟是怎麼回事呢？
這個時候的阿骨打更希望能夠跟遼和平相處，為什麼呢？女真一起兵，攻占了這麼大片的土地，甚至出乎他們自己的預料，沒想到竟然這麼快，沒想到遼竟然這麼虛弱，新佔領的地區需要時間去消化。所以金這時候並不想推翻遼國，只要遼國能夠承認現在大金的地位，兩下停兵止戈，就達到目的了。護步達岡之戰以後，遼也看到大金崛起於東北白山黑水間，方興未艾，消滅金的時機已經過去了，所以也想跟金議和。
雙方幾回使節往還之後，遼答應冊封完顏阿骨打為東懷國皇帝，做大遼藩屬，世世修貢，謹守臣節。那阿骨打能同意嗎？阿骨打要的是跟遼地位完全平等，你在屢戰屢敗的情況下，我沒滅了你就夠對得起你了，你還要讓我藩屬？我還“東懷國皇帝”？我已經建國了，國號大金，憑什麼讓你給我改國號？我想做皇帝就做，用得著你來冊封啊？阿骨打被遼的態度激怒了，跟自己的部下講：“遼人屢敗，遣使求成，惟飾虛辭，以為緩師之計，當議進討。”（《金史太祖本紀》）遼屢戰屢敗，來跟我們議和，這是放和平煙幕，掩蓋他假和平、真戰爭的罪惡，咱們不能上他的當。咱們現在別的事先放一放，一鼓作氣，乾脆把遼推翻，把遼地劃入我大金版圖。完顏阿骨打算是徹底明白了，金遼兩國不可能和平共處，必然存一亡一。而此時，宋朝看到遼倒霉，派遣使臣渡海到金，簽訂海上之盟，與金相約，聯手滅遼。金很高興，鬼知道幽雲十六州在哪兒，反正也不是我的地盤，你願意要回去就要回去吧，每年能得到五十萬銀絹，還能得到中原大國相助，挺好。這個時候隨著戰事的開展、外交工作的順利，金就更加感覺到沒有必要跟遼談和了，沒有必要低聲下氣了，應該一鼓作氣，把遼滅掉。遼的五個首都中，東京已經被攻占，由東北地區通往遼國上京臨潢府的道路已經全線敞開。於是，阿骨打親統大軍，進攻遼上京。
遼上京是契丹發祥之地，只要拿下遼上京，遼國皇帝就無以號令天下。太祖率領大軍打到上京城下，派人去招降，守軍拒絕投降，太祖揮軍猛攻，只一個上午，幅員萬里的大帝國的一號首都就被佔領了。太祖皇帝非常高興，騎馬巡視了城裡一番，做夢也想不到，當年進貢我都沒資格來，現在我以主人的身份來到了這座城市裡，這些東西都是我的了，太高興了！於是，阿骨打在這兒住下來了，流連忘返。部將勸他，天太熱，大軍趕緊班師，以免傳染病流行。咱就這麼點人，可病不起，咱們一病的話遼軍反攻，後果很嚴重！太祖皇帝聽信部將之言，雖然很喜歡宮殿裡的東西，但是為了保全戰鬥力，絕不貪戀財寶，更不羨慕榮華，率軍撤退。咱們還有更重要的事情要做，分遣大軍多路出擊。
上京被佔領之後，金軍兵鋒直指遼國的中京大定府，就是今天內蒙古寧城。聽說天祚皇帝在遼中京，大軍馬不停蹄，前來進攻。出兵之前，金太祖下詔：“遼政不綱，人神共棄。今欲中外一統，故命汝率大軍，以行討伐。”（《金史太祖本紀》）這一次咱們的目的就是要一舉佔領遼國的疆土，實現中外一統，徹底把遼政權推翻。在《塞北三朝遼》一書中咱們講過，由於天祚皇帝昏庸，賜死了自己的文妃，殺掉了自己最賢德的兒子晉王，逼反了文妃的妹夫、遼國的第一名將耶律餘睹。耶律餘睹降金之後被封為元帥府監軍，因為他對遼國的內情了若指掌，所以他率軍為前鋒去攻打遼國，很快就佔領了遼的中京，但是沒有逮到天祚皇帝。天祚皇帝在中京陷落之前就已經跑了，遼軍的最高指揮在這個最緊要的關頭放棄了自己的指揮權，於是金軍兵分多路，分別去攻打西京、南京。
按照金與北宋的盟約，南京本來應該由北宋攻打，但是北宋軍隊的戰鬥力低下，所以金就把這些地方都給佔領了。當金軍攻打遼中京的時候，太祖皇帝特別告誡自己的部將：“若克中京，所得禮樂儀仗圖書文籍，並先次津發赴闕。”（《金史太祖本紀》）咱們的大軍攻進了中京之後，一定注意去找禮樂儀仗、圖書文籍。這些東西對於定國安邦的作用非常重要，你先別把遼國皇帝的金銀器皿運來，要把禮樂儀仗圖書文籍趕緊給我送來，咱們治國需要。可見太祖皇帝這個時候對於中原文明的嚮往如飢似渴，他知道馬上打天下，不能馬上定江山，所以我最需要安邦定國的東西你趕緊給我拿來。