阵亡将士家属，亲为之设祭东郊，招魂以归。凉州将士，无不切齿深恨王弥、刘曜。当此之时，便有太府主簿马鲂向张轨进言道：“今四海动荡，天子未得反正。晋军皆亡，惟余凉州精锐。明公若率凉州之兵直捣平阳，必将所向披靡，有征无战。不知明公何所担心，见义而不为耶？”张轨闻谏，以手指心，书于纸道：“此亦某之所欲为之事也。”于是令阖州练兵备战，打算倾一州之力，择机进攻平阳，以救怀帝。此后不久，秦王司马邺进入关中，驻陛长安。张轨便迅速传檄关中：“主上遇险，流落贼营；普天分崩，举国丧气。今秦王邺天资卓越，圣明仁德，神机武断，以应天时。世祖之孙中，秦王今为长者。凡我大晋之人，食粮之民，占卜取卦克期效忠，光明险恶同心同步。应选择吉日，奉尊秦王登基继位。今派前锋督护宋配，率步骑兵二万，直抵长安护卫天子，击退左右之敌。西中郎将张寔，率中军三万，武威太守张琠率胡骑二万，络绎进发，于仲秋在临晋会师！”檄文到处，应声如响。
秦王司马邺被立为皇太子，遂遣使前往凉州，拜张轨为骠骑大将军、仪同三司，张轨坚辞不受。当时秦州刺史裴苞、东羌校尉贯与占据险要，发檄与朝廷断绝往来，张轨令宋配率兵讨伐。又有西平人王叔与曹祛余党麹儒等，威逼前福禄令麹恪为主，逮捕太守赵彝，与东边裴苞等人相为呼应。张轨檄令张寔回师讨伐，斩杀麹儒等，复命左督护阴预与裴苞战于陕西，亦大败之，裴苞势穷，率残部逃到桑凶坞。当年亦有信息传来，凉州大将北宫纯在驰援洛阳之战中侥幸逃脱，并已投降匈奴汉主刘聪，张轨闻之，痛惜不已。闻报凉州兵连败叛将，司马邺复派使者向张轨重申先前授命，张轨又坚辞不受。左司马窦涛向张轨进言道：“周公旦封于曲阜而不辞，姜子牙封于营丘而受命，此所谓明国家法令，奖励有大功者。今天下崩溃，主上流亡，凉州虽为边远之州，但明公不忘匡扶朝廷；因此朝廷推诚相待，嘉命再三传送至州。明公应遵从朝廷旨意，以孚众人之望。”张轨虽以其言为然，依旧坚持不从。
当初张寔平定麹儒，将首恶六百余家改迁别处。治中令狐浏说道：“清除恶人，如同农夫除草，务必锄去其根，使不能滋生也。宜将叛党之家全部迁走，以绝后患。”张寔未纳。后麹儒余党果叛，张寔于是再次进兵平定此乱。永嘉七年，晋怀帝司马炽被杀，太子司马邺继位为晋愍帝，并升张轨为司空，张轨再次坚辞不受。太府参军索辅向张轨进言，请恢复使用五铢钱以通贸易，张轨纳之，于是钱币大为流行，凉州百姓大获便利。同时，刘曜寇犯北地，进逼长安，张轨又派参军麹陶率三千人马，助愍帝保卫京都长安。建兴二年，晋愍帝派大鸿胪辛攀再至凉州，拜张轨为侍中、太尉、凉州牧、西平公，张轨又坚决辞谢。
建兴二年五月，张轨卧病不起，临终前留下遗言道：“某平生对他人无甚恩惠，今日疾病垂危，概寿命将告终矣。凉州文武将佐皆应各尽忠义，务必安抚百姓，上报国家，下安家室。我死之后，宜以庶人棺木从简安葬，墓中