陶谦后来喜欢学习，先是被举诸生，在州郡为官，又被举为茂才，拜尚书郎，先后出任舒县令、卢县令，其后迁幽州刺史，被徵拜为议郎，青州、兖州黄巾军又起，被任为徐州刺史进行治理。
陶谦初到任时，徐州经战火过后“世荒民饥”，一片狼藉。
陶谦任用徐州富商东海郡朐县（今江苏连云港西南）人糜竺，字子仲为别驾从事，任用琅玡人赵昱、东海人王朗为别驾及治中从事，尽心治理。
陶谦还任命与自己同郡的笮融督管广陵、下邳、彭城运粮。
笮融利用手中掌握的粮食，建造起大浮屠寺，可容三千余人，悉课读佛经，又以信佛免役作号召，招致五千余众。每当浴佛，在徐州境内数十里道路上，沿途设置酒饭，观看及就食民众达万人。
同时，陶谦又表荐下邳淮浦（今江苏涟水西）人陈登，字文龙为典农校尉，进行屯田。
陈登上任便“巡土田之宜，尽凿溉之利”。
在陶谦、陈登的努力下，徐州农业生产得到恢复和发展，收获“粳稻丰积”。北面青州、兖州黄巾此起彼伏，徐州却相对太平无事，百姓富足，谷米屯满粮仓，青州、豫州等地流民也纷纷涌向徐州。
陶谦没有参与当年讨伐董卓的盟军，却在献帝迁往长安后，采纳了治中从事王朗与别驾赵昱的建议，派赵昱向献帝进贡以表示对汉室的支持。
献帝接到陶谦奏章后极为赞赏，升陶谦为徐州牧、安东将军，封溧阳候，赵昱被任命为广陵太守，王朗被任命为会稽太守。
当时，曹操父亲、前任太尉曹嵩在徐州琅邪郡（今山东临沂一带）躲避战乱，曹操命令兖州泰山太守应劭迎接曹嵩到兖州。
应劭未到，陶谦派部将张闿带二百兵士护送。
张闿贪图曹嵩资产，走到华县与费县交界处，将其全家杀害，劫取财物，逃往淮南。
应劭闻知曹嵩一家被害，心中害怕，弃官去投了袁绍。
曹操追击袁术六百里返回，闻知父亲及全家被害，哭倒于地，众人救起。
曹操咬牙切齿，一切归罪于陶谦，遂留荀彧、程昱领军三万分守鄄城、范县、东阿三县，令夏侯惇、于禁、典韦为先锋，举兵讨伐陶谦，以报杀父之仇。
九江太守边让与陶谦交往甚厚，自引兵五千来救陶谦。
曹操闻听大怒，派夏侯惇领兵截击。
东郡从事陈宫也与陶谦交厚，听说曹操起兵报仇，星夜来见曹操劝阻。
曹操知其来意，意欲不见，又碍于被视为心腹情面，只得请入帐中相见。
陈宫说：“听说明公欲报杀父之仇，举兵征讨徐州，特来劝阻。”
曹操说：“杀父之仇，不共戴天，岂有不报之理？”
陈宫说：“陶谦是个仁人君子，并非好利忘义之辈。