按郭氏谱：淮祖全，大司农；父缊，雁门太守。建安中举孝廉，除平原府丞。文帝为五官将，召淮署为门下贼曹，转为丞相兵曹议令史，从征汉中。太祖还，留征西将军夏侯渊拒刘备，以淮为渊司马。渊与备战，淮时有疾不出。渊遇害，军中扰扰，淮收散卒，推荡寇将军张郃为军主，诸营乃定。其明日，备欲渡汉水来攻。诸将议众寡不敌，备便乘胜，欲依水为陈以拒之。淮曰：「此示弱而不足挫敌，非算也。不如远水为陈，引而致之，半济而后击，备可破也。」既陈，备疑不渡，淮遂坚守，示无还心。以状闻，太祖善之，假郃节，复以淮为司马。文帝即王位，赐爵关内侯，转为镇西长史。又行征羌护军，护左将军张郃、冠军将军杨秋讨山贼郑甘、卢水叛胡，皆破平之。关中始定，民得安业。
黄初元年，奉使贺文帝践阼，而道路得疾，故计远近为稽留。及群臣欢会，帝正色责之曰：「昔禹会诸侯於涂山，防风后至，便行大戮。今溥天同庆而卿最留迟，何也？」淮对曰：「臣闻五帝先教导民以德，夏后政衰，始用刑辟。今臣遭唐虞之世，是以自知免於防风之诛也。」帝悦之，擢领雍州刺史，封射阳亭侯，五年为真。安定羌大帅辟氾反，讨破降之。每羌、胡来降，淮辄先使人推问其亲理，男女多少，年岁长幼；及见，一二知其款曲，讯问周至，咸称神明。
太和二年，蜀相诸葛亮出祁山，遣将军马谡至街亭，高详屯列柳城。张郃击谡，淮攻详营，皆破之。又破陇西名羌唐氾於枹罕，加建威将军。五年，蜀出卤城。是时，陇右无谷，议欲关中大运，淮以威恩抚循羌、胡，家使出谷，平其输调，军食用足，转扬武将军。青龙二年，诸葛亮出斜谷，并田于兰坑。是时司马宣王屯渭南；淮策亮必争北原，宜先据之，议者多谓不然。淮曰：「若亮跨渭登原，连兵北山，隔绝陇道，摇荡民、夷，此非国之利也。」宣王善之，淮遂屯北原。堑垒未成，蜀兵大至，淮逆击之。后数日，亮盛兵西行，诸将皆谓欲攻西围，淮独以为此见形於西，欲使官兵重应之，必攻阳遂耳。其夜果攻阳遂，有备不得上。
正始元年，蜀将羌维出陇西。淮遂进军，追至强中，维退，遂讨羌迷当等，按抚柔氐三千馀落，拔徙以实关中。迁左将军。凉州休屠胡梁元碧等，率种落二千馀家附雍州。淮奏请使居安定之高平，为民保障，其后因置（西川）〔西州〕都尉。转拜前将军，领州如故。
五年，夏侯玄伐蜀，淮督诸军为前锋。淮度势不利，辄拔军出，故不大败。还假淮节。八年，陇西、南安、金城、西平诸羌饿何、烧戈、伐同、蛾遮塞等相结叛乱，攻围城邑，南招蜀兵，凉州名胡治无戴复叛应之。讨蜀护军夏侯霸督诸军屯为翅。淮军始到狄道，议者佥谓宜先讨定枹罕，内平恶羌，外折贼谋。淮策维必来攻霸，遂入沨中，转南迎霸。维果攻为翅，会淮军適至，维遁退。进讨叛羌，斩饿何、烧戈，降服者万馀落。九年，遮塞等屯河关、白土故城，据河拒军。淮见形上流，密於下渡兵据白土城，击，大破之。治无戴围武威，家属留在西海