派人来召他去。李存勖平时非常孝敬母亲，听说太夫人要他去，知道自己错了，赶紧给张承业磕头，说道歉：“我今天贪杯多喝了些酒，冒犯了七哥。母亲
一定会责怪我的，请七哥痛饮两杯酒，替我求情分点过失吧。”李存勖连饮四杯，然后劝张承业也喝，张承业没喝。李存勖回宫后，太夫人派人转告张承业，说道：“小儿冒犯张公，我已责打他了，你可以回去了。”第二天，太夫人又领着李存勖去他的府上安慰他。
当然张承业并不总是这样和李存勖顶牛，有时他也很讲策略。李存勖的手下管书记卢质比较明事理，但常常嗜酒。酒后发酒疯，大喊李存勖的兄弟们都是猪狗之类，李存勖很是恼火。张承业怕卢质吃亏，便找了个机会对李存勖说道：“卢质总是无理取闹，臣请大王杀了他。省得他再让大家难堪，你看可以吗？”
李存勖没想到这是张承业之计，赶忙说道：“我现在正招贤纳士，开创霸业，七哥怎能如此说？”张承业见李存勖上钩，便正色道：“大王既然这样说，那得天下就没什么问题了。”从此后，卢质虽然有时放肆一些，李存勖总是能容得下他，一直没有借故加害。
张承业不仅对别人严格执法，对家人更是严格要求。他有个侄子杀死了贩牛人，被他立刻处死。李存勖派人前去解救，但已经来不及了。后来，李存勖任命张承业的侄子张瓘为麟州刺史。张承业对张瓘说道：“你本是一个普通百姓，曾与刘开道一同做贼。你一贯不守法度，现在若还不改悔，不知哪天你就会被杀死。”从此，张瓘不管到何处为官，都不敢贪暴。
张承业从太原赶到魏州，劝晋王说道：“大王世世代代效忠唐室，解救了唐室不少患难，所以老奴三十多年来为大王收集财赋，招兵买马，誓死消灭叛逆之人，恢复唐室的宗庙社稷。现在黄河以北刚刚安定下来，朱贼依然存在。大王就急急忙忙登帝位，和你当初奋力作战的意思大不一样，这样天下的人心怎么能不离散呢？大王何不先灭掉朱氏，报了各位先王的深仇，然后寻到唐王室的后人拥立为帝。向南夺取吴国，向西夺取蜀国，横扫天下，合为一家。到那时候，即使高祖、太宗起死回生，又有谁敢位于你的上面？谦让的时间越长，所得到的就越牢固。老奴没有别的想法，只是因为接受了先王的大恩，愿为大王创建万年大业的基础。"
晋王听了以后说道：“这并不是我的愿望，这是众位大臣的意见，我也无可奈何。"张承业知道阻止不了，痛哭着说道：“诸侯们浴血奋战，本来是为了恢复唐室大业，现在大王自己取得帝位，欺骗了老奴！"马上把自己的封地交还给晋王。后来张承业得了病，没能再起来。
不久后，张承业郁郁而终，年七十七岁。曹太夫人闻知，立即赶到他的家中致哀，并身穿孝服、行子侄之礼。后来李存勖称帝，追赠张承业为左武卫上将军，赐谥贞宪。
李存勖听说张承业得病，一时也不愿称帝。正在此时