兵的话题，张昭说道：“我闻琅琊盐豪与海贼颇有勾结。徐州东临大海，素多海寇，於今海内不宁，海贼愈多，今盐豪虽定，以我之见，琅琊、东海、广陵各郡之沿岸却仍不可松懈，需屯以精兵，以防海贼侵犯。”
徐州临海，海岸线很长，此前陶谦主政徐州时，琅琊、东海就饱受海贼侵扰之苦，荀贞在广陵做太守时，广陵沿岸也时常有海贼出没，荀贞为此还专门遣派部队到沿海进剿海贼，可因缺少战船，没有水军之故，最终也只能在沿岸设兵防御，不能将海贼根除。
对张昭的这个意见，荀贞以为然，他心道：“此次剿灭盐豪，从那些盐豪处缴获到了不少船只，倒是可以用此为基，想办法建一支水军出来。”
建设水军，最难的不是船只，而是知晓水战的将领和精通航行的水手，水手好说，琅琊、东海、广陵沿岸有不少的渔民，大可以从中选用，唯是这知晓水战的将领不好找。
早在春秋时期就有了水军的出现，至迟在春秋末年，沿海的齐、吴、越三国之舟师就不但能够在内河作战，而且已有了海战的能力，勾践在攻吴时就曾命范蠡等率越国水军的别部经海道进入淮水，由之切断了吴军的退路，致使夫差不得不求和。
到了前秦和前汉，随着造船技术的进步，不仅水军的规模、战船的种类和作战的能力都随之有了极大的提高，并且水军作为一个独立的兵种也已经从步骑兵种中彻底地独立了出去。
於前汉之时，成为了一个单独兵种的水军主要是作为郡国兵驻扎於地方，多分布於南方水网交织的地区，被中央直接掌控的只有一支号称“羽林黄头”的水师部队，——所谓“黄头”，是因为水军的服饰与步兵、骑兵不同，出於五行生克，“土胜水”的说法，他们都头带黄帽，因常被称为“黄头郎。”前汉的水师力量是很雄浑的，元丰二年，汉武帝击朝鲜，楼船将军杨仆率领了一支水军走海路，这支水军的兵力达到了五万之众。
入到本朝，水军的力量也仍很强大，建武九年，征南大将军岑彭与公孙述对峙於荆门时，统带的各类大小船只有数千艘，建武十九年，伏波将军马援伐交趾，动用了大小楼船二千余艘。
只是后来为了加强中央对地方的集权，同时也是休养民力，光武帝裁撤掉了大部分的郡国兵，水师作为郡国兵的一个组成部分，也因之被裁撤掉了许多。虽是如此，徐州沿岸原本还是有一些水师的，然而经过前些年的黄巾之乱，这些沿岸的水师如今损失殆尽，几无留存了。
想到此处，荀贞问张昭说道：“徐州临海，往年颇有楼船，现今水师虽不复存，可料来州中应必尚有精通水战之士，……公可有人举荐？”
“明公是想要再建舟师么？”
“我在广陵时，沿海常受海贼侵扰，奈何郡无舟兵，不能入海剿之，只能设兵沿岸，被动防御，耗粮耗时，疲於奔波，当时我就想组建一支水师，只是单凭一郡之力，难以做到，故而罢了。