我日夜都痛心疾首。我现在仗义西行，想借助众蕃部的力量，翦灭我们的仇敌，恢复我国的领土疆域。你们之中有顾念痛惜我们国家，忧虑我们的社稷，思量共同救出君父，济助生民于苦难之中的人吗？”众人齐声称是。于是他得到精兵了一万余人，设置官吏，编列排甲，准备仪仗器具。
几年后，他以青牛、白马祭祀天地、祖宗，整顿队伍向西进发。他先写信给回鹘王毕勒哥说道：“从前我国太祖皇帝北征，经过卜古罕城，曾派遣使者到甘州，下诏给你们祖先乌母主说：‘你思念故国吗，朕马上就可以为你恢复，你担心不能回去吗，我已经拥有这片土地了。我拥有，也就是你拥有了。’你的祖先当即上表致谢，认为国家迁来此地，已有十几代人，军民都留恋现有国王，不愿迁居异地，所以我也就不能重返故国了。这表明我国与你们国家的交好已有多年历史了。现在我准备向西前往大食，向你们国家借道，你们切不可生疑。”
毕勒哥接到书信，当即到客舍迎接，大宴三日，临走之前，又进献六百匹马、一百只骆驼、三千只羊，并愿以子孙为人质做附庸，送至境外。所经过之处，为敌的击败之，降附的安抚之。行军万里，有好几个国家归附，获得的骆驼、马匹、牛、羊、财物，不可胜数。兵力日益强大，士气日益高涨。
到了寻思干，西域各国合力举兵十万，号称忽儿珊，前来拒战。两军相距大约两里。耶律大石晓谕将士说道：“敌军虽多，但是没谋划。如果我们攻击他们，他们便会首尾不能相救，我军定会获胜。”
于是耶律大石派六院司大王萧斡里剌、招讨副使耶律松山等率兵两千五百人攻击其右路，枢密副使萧剌阿不、招讨使耶律术薛等人率兵两千五百人攻其左路；自己率众进攻其中路。三军一齐攻击，忽儿珊大败，伏尸数十里。耶律大石驻军于寻思干共九十日，回回国王前来降附，贡献土产。
他又西行至起儿漫，文武百官立耶律大石为皇帝。他追谥祖父为嗣元皇帝，祖母为宣义皇后。他对百官说道：“我与你们行程三万里，跋山涉水过沙漠，日夜艰辛前行。仰赖祖宗之福佑，你等众人之力，我冒昧地登了大位。你们的祖、父都应该加以存恤善后，以共享荣耀。”从萧斡里剌以下四十九人的祖父和父亲，封号爵赏各有等差。
后来，东喀喇汗国阿赫马德汗死，其子易卜拉欣汗不得人心，造成康里人和葛逻禄人叛乱，被迫邀请耶律大事出兵协助平乱。耶律大石很快平定了康里和葛逻禄，把东喀喇汗国降为附庸，割取其北疆一带为辽国直辖领地。