現代學者多認定，契丹人是操某種蒙古語方言的民族。10世紀初契丹人崛起於北方，在南下壓迫唐亡後立國於華北的「五代」小朝廷的同時，遼代的勢力迅速向西域發展。據《遼史》卷1《太祖紀》記載，天贊三年（924），遼太祖耶律阿保機率兵西征時，先至斡兒寒河（今鄂爾渾河）中游的古回鶻城，降服附近的札剌亦兒蒙古人祖先的一部分「胡母思山蕃」後，再一路西進，越金山而南。「逾流沙」，於同年攻取北庭附近的「可汗浮圖城」，「盡取西鄙諸部」。（註：校點本，第19—21頁。）遼軍所逾之「流沙」當為今阿爾泰山與天山之間的準噶爾沙漠。此次西征使西遷後的高昌回鶻成為遼的屬部。
《遼史》卷94《耶律化哥傳》又記，開泰元年（1012）遼將耶律化哥受命西征阻卜，取得勝利。耶律化哥還師後，阻卜復叛，留守漠北西境的遼軍敗績。遼廷再命耶律化哥西征。耶律化哥率領的遼軍一直推進到「翼只水」，在道經「白拔烈城」的途中與「阿薩蘭回鶻」相遇，覆敗之。事後發現，「阿薩蘭回鶻」為遼之屬部。耶律化哥因此獲罪。（註：校點本，第1381—1382頁；並見同書卷15《聖宗紀》，第174頁。）查《遼史》卷93《蕭圖玉傳》，開泰元年遼太師阿底裡在漠北撫治失政，當地阻卜部落叛變，將遼軍圍於鄂爾渾河流的鎮州、斡魯朵城等幾座孤城中。耶律化哥受命援救，擊敗阻卜。（註：校點本，第1378頁。）平亂之後，耶律化哥回師，但次年（1013）正月「達旦國兵圍鎮州」，不久遼廷命化哥再次出兵，「至安真河，大破而還」。（註：並見《遼史》卷94《耶律世良傳》，第1385—1386頁。）據《遼史》卷15《聖宗紀》，此次擊破的是阻卜酋長「烏狼」的部眾（註：校點本，第172—174頁。），此部居於蒙古高原西北部。當時蒙古高原中部的克烈諸部或許是阻卜的屬部。
耶律化哥第二次西征時，阻卜軍隊佔據的「翼只水」，學者們多把它比為也兒的石河（Irdish，今額爾齊斯河）。古代蒙古語中許多詞借自突厥語。凡突厥語詞中含有輔音-d-的，在蒙古語中往往變為-j-，如突厥語idi「主人」（註：試比較金元時代畏兀兒君主的稱號Idi-qut「幸福之主」的idi-。）在蒙古語裡的相應詞是ejen「額真」，譯言「主人」。如是觀之，「翼只水」應為操蒙古語的契丹人對也兒的石河的稱呼。耶律化哥在翼只水之戰取勝後，兵鋒向南，至「白拔烈」城，劫掠「阿薩蘭回鶻」。遼代的「白拔烈」即元代之「白八里」，其突厥語原名應為Ber-baliq。ber此言「一」，baliq意為「城」，所以在元代又意譯為獨山城。遼軍在這裡擊敗的「阿薩蘭回鶻」中的「阿薩蘭」即突厥語arslan「獅子」的音譯。「獅子王」是高昌回鶻君主的傳統稱號。耶律化哥所敗之「阿薩蘭回鶻」即高昌回鶻。從上述地名、部名可以看出耶律化哥西征時所行路線，基本上與一個世紀前遼太祖阿保機西征時相似。
據大食學者伊本·阿西爾記載，直至遼末金初，耶律大石稱王於漠北時，哈剌汗朝東境尚有契丹駐軍一萬六千餘人。（註：參見，I，，1973，.65-66。）
遼天慶四年（1114），女真族起兵，遼統治迅速土崩瓦解。女真的興起和東亞大陸北部政治形勢的重大變化迫使契丹殘部西遷中亞，建立西遼。
遼金交替之際，遼宗室耶律大石在漠南率二百親兵越磧，進入漠北。他在那裡會集十八部，徵集兵員數萬。在十八部中，明確可考的蒙古部落就有王紀剌（成吉思汗家族姻親東蒙古宏吉剌部）、茶赤剌（成吉思汗家族近親札只剌）、密兒紀（漠北蔑兒乞，居於今色楞格河下游）、忽母思（札剌亦兒分支之一，居於和林）等。金天會八年（1130），大石率眾自漠北西遷，至垂河流域在那裡定居下來，建立西遼。大石從垂河流域東征時，其將領中包括茶赤剌（札只剌）部禿魯耶律燕山，足見其軍中有大批來自漠北的操蒙古語各部族眾。
1141年，西遼戰勝塞勒柱帝國桑賈兒算端（Sultan Sanjar）後，派大將額爾不思沿阿姆河而下，攻入花剌子模，迫使花剌子模沙阿即思（『Azīz）稱臣，並確定年貢賦為三萬金「抵納」（dinar）。（註：「抵納」名見明陳誠、李暹《西域番國志》「哈烈」（Herat）條：「交易通用銀錢，大者重一錢六分，名曰『等哥』，次者每錢重8分，名曰『抵納』」。）12世紀70年代，花剌子模國內貴族為爭位發生內訌，王子鐵失（Tekeš）投奔西遼，西遼承天後普速完之駙馬蕭朵魯不使用武力支持鐵失歸國即位。
花剌子模降附西遼後，不斷沿阿姆河南下，與西哈剌汗朝作戰；或進入阿姆河以北之地、呼羅珊地區，與塞勒柱帝國發生衝突，甚至進攻伊拉克，威脅報達城，逐漸強盛起來。由於花剌子模與西遼力量對比的變化，以及西遼官吏的殘酷壓迫，花剌子模的貴族開始反抗西遼統治。鐵失算端曾殺死傲慢無禮的西遼使臣，西遼承天後普速完遣其駙馬蕭朵魯不企圖以武力廢黜鐵失沙，立其弟算端沙，但未能得逞，遂支持算端沙立國於呼羅珊的馬魯（Merv）。花剌子模鐵失沙雖然不斷與西遼衝突，但一直避免與西遼決裂，始終向西遼繳納貢賦。1200年其子摩訶末即位，在他統治初期，仍維持對西遼的臣屬關係。可見女真建國間接影響到花剌子模和鹹海附近。