张陵死后，有两个人继承了他的事业，一个是张陵的儿子张衡(不是发明浑天仪、地动仪的那个张衡)，另一个是张修。张修可能是张陵的徒弟，也可能只是冒五斗米道之名招摇撞骗。张衡死后，其子张鲁就成了五斗米道的三代目。
当时张鲁和张修都依附于益州牧刘焉，张鲁是督义司马，张修是别部司马，刘焉派这两个人一起攻杀了汉中太守苏固。随后张鲁又杀了张修，兼并了他的军队。
张鲁的行为形同反叛，但刘焉却默认了。这是因为张鲁的母亲是一个挺有姿色的巫婆，她和刘焉常常在深夜里关灯对剧本。有了这一层关系，刘焉便对张鲁的行为睁一只眼闭一只眼。刘焉死后，刘璋上位，张鲁很不恭顺，刘璋便将张鲁母亲一家尽数杀光。
双方撕破脸皮之后，张鲁公开割据汉中郡与刘璋为敌，刘璋几次想征讨张鲁都失败了。
不光刘璋，朝廷也无力征伐张鲁，不得不承认他的地位，任命其为镇民中郎将（一说镇夷中郎将）、汉宁（张鲁改汉中郡为汉宁郡）太守。但张鲁不太感冒，一度想过称“汉宁王”。张鲁的功曹阎圃（pu）说，一旦这么干就相当于彻底和朝廷决裂，再也没有缓和的余地了。张鲁这才放弃了称王的想法，给自己留条回头路。
张鲁建立的是一个政教合一的政权，刚入教的人称为鬼卒，学习道义并经过考察后，可以升级为祭酒，也就是小头目；有能力的、带领教徒多的，再升为大祭酒，就是高级领导。最高级别的叫师君，就是张鲁本人。
张鲁的统治深受百姓爱戴，原因有两点：第一，不设官吏。没那么多闲人整天骚扰百姓；第二，慷慨布施。张鲁建了一些无偿供给行旅食宿的邸舍，谓之“义舍”。义舍中放置米肉，路人吃多少拿多少，全凭自觉。
那张鲁靠什么维系统治呢？
宗教。
张鲁不断给百姓灌输鬼鬼神神的思想——人在做天在看，做了坏事或者不诚信会有报应，义舍里的米肉拿多了鬼神就找你来了，犯了罪自己跪下忏悔，原谅三次，继续犯罪的话才动刑。
张鲁治下的汉中郡成了乱世中的一块乐土。
汉献帝建安二十年（公元215年）三月，曹操从关中出兵，准备拿下汉中郡。
从关中进入汉中郡，需要路过武都郡。武都郡当时已经被氐人占据，他们对曹操采取敌对态度，不允许曹操穿过他们的地盘。曹操命张郃、朱灵为先锋击溃了挡路的氐人。四月，曹操到达武都郡的河池县，氐王窦茂率数万大军拦路。五月，曹操攻破并屠杀了河池。七月，曹操率军到达阳平关前。
对于曹操的到来，张鲁很慌，打算投降。张鲁的弟弟张卫不同意，张鲁就派张卫和大将杨昂率数万大军镇守阳平关。阳平关是天险，是汉中郡的屏障，曹操十万大军连攻三天无果，军粮供应还出现了问题，但曹操最终还是攻破了阳平关。
怎么攻破的呢？三种