高临下，因风纵火，台城及诸营寺署一时荡尽。苏峻因攻占覆舟山而夺得胜利，控制了东晋朝廷。晋安帝元兴二年(403年)，荆州刺史桓玄篡晋，国号楚，史称"伪楚之乱"。三年春，彭城内史刘裕等讨桓玄，率二州之众1700人，由京口(今镇江市)西进至覆舟山东。桓玄守将卞范之等二万余人，在覆舟山西面，严阵以待。刘裕先采取虚张声势的办法，派士卒登山张旗，给卞军造成错觉，然后，"破釜沉舟"，决一死战。进攻前，命将士饱餐一顿，丢掉余粮，轻装待发，攻击开始，又身先士卒，因此，将士无不以一当百。攻上山时，正值东北风急，因风纵火，顿时，烟炎熛天，鼓噪之声震动京邑，打得卞范之的部队大溃。桓玄被迫从长江水路逃走。
六朝的宫城(台城)离覆舟山很近，覆舟山周围的土地属于上层贵族活动的范围。覆舟山的南面原来有一个西池，是东吴太子孙登的园林，也称太子湖。晋明帝为太子时重修西池，在里面训养武士。东晋的北郊坛(地坛)也在覆舟山之南。西面是东晋的芍药园，每年栽种芍药川供宫廷用药。
刘宋代晋以后，把覆舟山下的北郊坛移到宫城之北，辟为乐游苑，把西池也圈在里面，改名乐游池(其范围当在小营以北)。宋文帝刘义隆又以覆舟山以西之地为北苑，兴建楼观，经常召集群臣宴游赋诗，盛极一时。宋孝武帝刘骏时，在乐游苑内兴建正阳、林光两殿，还在山阴处凿藏冰井，每年冬天采冰储存，供宫廷夏天使用。这些建筑到梁武帝晚年，因侯景叛乱，兵困台城，遭受严重破坏。陈霸先建国以后，又重加修建。陈宣帝太建七年夏，因"甘露"频降，在覆舟山上兴建一座甘露亭，采集"甘露"，以宴群臣。南朝有名的文人如鲍照、颜延之、谢灵运、范晔、沈约等都在覆舟山、乐游苑活动过，留下不少绮丽的诗篇。
覆舟山下还建过佛寺。青园寺为东晋末年兴建，刘宋时改名龙光寺。高僧竺道生在这个寺居住过，后因其译著的佛经，对某些教义的领悟，与众僧不同，被视为异端邪说，受到攻击，愤而离开。法圆寺为刘宋时兴建。齐东昏侯永元二年，西平将军崔慧景反，攻入乐游苑，屯兵法圆寺。崔慧景虽是武将，也尚清谈，部下发生争执，他不去解决，却坐在寺内与客人大谈佛理，结果，部下叛离，兵败被杀。
覆舟山下也有墓地，据《建康实录》记载，晋永嘉六年，征南将军、荆州刺史山简死后，归葬于覆舟山之阳。一个小小的覆舟山周围有这么多的园林和建筑物，其盛况可想而知。可惜隋杨广灭陈时，这个六朝形胜之地，竟遭到摧毁性的破坏，只剩下一些残存的庙宇。
民国年间，在此建玄奘塔。玄奘塔下葬有唐代高僧玄奘的部分顶骨舍利。唐玄奘原葬于西安终南山紫阁寺塔，该塔后毁于战火。刘宋朝天圣五年(1027年)，建康天禧寺和尚可政去紫阁寺，寻得玄奘顶骨，带回建康(今南京)，埋于城南天禧寺。清咸