耶律大石心裡非常清楚，金國新興之邦，氣勢正盛，如果金國鐵了心，一而再、再而三地來攻打可敦城，自己手裡的這點兒兵馬，是抵擋不住的。而這裡是遼國僅存的部隊了，如果全軍覆沒，遼國就徹底滅亡了。那麼耶律大石下一步該何去何從呢？
大石思來想去，想通了一點，金朝這個時候國力蒸蒸日上，方興未艾，正是一輪初升的太陽。而大遼已經日薄西山了，如果跟金死拼，那就是天祚帝的下場。因此，這個可敦城我不要了，留給金軍好了。全軍為上，失地次之，保存有生力量是最主要的。因此，耶律大石就率部開始了另一次西征，這時候人數已多達萬人，不再是二百來人了，這次西征的目標是今天的新疆和中亞地區。當耶律餘睹大軍殺來的時候，可敦城已是一座空空蕩蕩的城池，金軍只能摧毀此城洩憤了事，城裡的物資、糧草、財寶全被大石運走了。
在大石看來，西域是一個用武的好地方。當時的西域有三股勢力：第一股是佔據天山南北的高昌回鶻。回鶻是唐朝時一個強大的民族政權，大體是今天維吾爾族和裕固族的祖先。還有一支力量，是在阿爾泰山兩側的乃蠻部。乃蠻部的文明也很發達，幾乎可以稱得上是一個王國了，不再是一個部落，使用回鶻文，就是後來的維吾爾文。蒙古民族本來沒有自己的文字，成吉思汗破了乃蠻部之後，由乃蠻部的大臣塔塔統阿用維吾爾的字母，創立了蒙古文，所以蒙古文和古回鶻文非常像。再有一個就是唐努烏梁海一帶的黠戛斯部，唐奴烏梁海就是今天俄羅斯的圖瓦自治共和國，原是中國的一部分，1912年被沙皇俄國非法吞併，黠戛斯人是今天柯爾克孜族的祖先。
大石考慮，要往西域發展，這三部先對付誰？高昌回鶻雖然衰落，但是不好相與。它畢竟在那個地方待了那麼多年，國力也算是比較強盛，文明比較發達。乃蠻部也一樣。只有黠戛斯人是游牧民族，文明程度、生產水平、戰鬥水平都比較低，所以遼軍以黠戛斯人為主要進攻對手。只要打敗黠戛斯人，佔領黠戛斯人的地盤，就可以在西域站穩腳跟，再徐圖東舉，恢復故土。大石計議一定，就率領自己的部眾到了黠戛斯人的居地，跟黠戛斯人迎面碰撞，沒想到黠戛斯武士驍勇善戰，遠道而來的契丹人滿面征塵，疲憊不堪，在黠戛斯人手裡沒有占到便宜。但是大石多聰明，能屈能伸，打得贏就打，打不贏就跑。海闊憑魚躍，天高任鳥飛，我何必跟你在這兒死磕呢？這不是名將的選擇。於是大石率部穿越阿爾泰山，到達了今天新疆的額敏縣，在額敏河流域定居下來，築了一座城。因為大石已經漢化了，他不會逐水草而居，這座城叫作葉密立。附近的這些民族、部落紛紛來投奔大石，特別是游牧在當地的契丹人一萬六千帳，來投奔大石，大石一下力量大增。
公元1132年，大石已經知道天祚皇帝完了，國不可一日無主，為了復興大遼，我必須勉為其難，擔起這個重任。 1132年的二月，大石在群臣的擁立下即位稱帝。他的漢語尊號叫天祐皇帝，年號延慶；同時根據當地突厥人的習慣，又取了個突厥語稱號，叫菊兒可汗，有的書翻譯成葛兒可汗，突厥語的意思就是眾汗之汗，或者汗中之汗。這樣，耶律大石在遙遠的西陲再一次復興了大遼。這個遼國，歷史上一般稱為西遼，又叫做喀喇契丹。那麼大石在這個地方建都定鼎之後，下一步做什麼打算呢？