早在春秋时期，此山名覆舟山，因其临湖一侧陡峻如削，像一只倾覆的行船而得名。南朝刘宋元嘉时，玄武湖屡见“黑龙”，武帝将山改名为玄武山；另说是因山傍玄武湖，位于城北之故。陈太建年间，玄武山称为龙山、龙舟山。

六朝时，覆舟山是都城建康重要的屏障，也是皇家花园，称为“乐游苑”。乐游苑内，楼台亭阁，风光旖旎。据史书记载，南朝时，大科学家祖沖之与北魏人索驭麟比赛指南车，地点就在乐游苑内。祖沖之发明的水碓磨，也是在乐游苑内试製成功的。隋灭陈时，乐游苑被焚毁。山南麓建有小九华寺，故俗称“小九华山”，简称九华山。

南朝时期，覆舟山曾是皇家园林“乐游苑”所在，为当时帝王将相消夏纳凉、娱乐休闲的福地。

此外，九华山顶有一座五级四角形的砖塔——三藏塔，是为纪念唐代高僧玄奘法师所建。据考证，塔内藏有玄奘法师的头顶骨。

覆舟山现名九华山，在南京城东北，玄武湖畔。山的形状狭长，顶呈平行，两头渐低，古时人们因其像一只翻置的木船，所以命名为覆舟山。覆舟山的名字在东晋的史籍中已有记载，产生时间当然更早。

覆舟山在刘宋时叫玄武山。改名的原因旧志中有两种说法：一说是因为山在城北，当时宫城的北门名玄武门，另一说是因山在玄武湖旁，元嘉中有黑龙展现于后湖，以为是玄武之神，乃名后湖为玄武湖，改覆舟山名玄武山。上述两种说法都有其依据，后一说似乎更可靠一些。陈宣帝时，又称覆舟山为龙舟山。不过，这两个名字在民众中影响不深，陈亡以后，人们仍呼为覆舟山。

“六朝”时期的覆舟山，东际青溪，北临后湖，西近台城，周回不过三里，高不过百米，是一座普通的小山。山虽不高大，但地理位置很重要。战乱年代，它是宫城的屏障，与东面的龙尾坡、蒋陵同为军事要隘。它的得失，关係着宫城的安危。东晋时，在这一带曾发生两次规模较大的战役。晋成帝鹹和三年（328年），历阳内史苏峻以讨中书令庾亮为名，攻入都城，史称苏峻之乱。苏峻率二万人渡江，沖开牛渚（今采石矶）的防线，绕到都城东北，进据蒋陵和覆舟山，打败了守将卞壶的部队。突破青溪大栅，居高临下，因风纵火，台城及诸营寺署一时荡尽。苏峻因攻占覆舟山而夺得胜利，控制了东晋朝廷。

晋安帝元兴二年（403年），荆州刺史桓玄篡晋，国号楚，史称“伪楚之乱”。三年春，彭城内史刘裕等讨桓玄，率二州之众1700人，由京口（今镇江市）西进至覆舟山东。桓玄守将卞范之等二万余人，在覆舟山西面，严阵以待。刘裕先採取虚张声势的办法，派士卒登山张旗，给卞军造成错觉，然后，“破釜沉舟”，决一死战。进攻前，命将士饱餐一顿，丢掉余粮，轻装待发，攻击开始，又身先士卒，因此，将士无不以一当百。攻上山时，正值东北风急，因风纵火，顿时，烟炎熛天，鼓譟之声震动京邑，打得卞范之的部队大溃。桓玄被迫从长江水路逃走。

六朝的宫城（台城）离覆舟山很近，覆舟山周围的土地属于上层贵族活动的範围。覆舟山的南面原来有一个西池，是东吴太子孙登的园林，也称太子湖。晋明帝为太子时重修西池，在里面训养武士。东晋的北郊坛（地坛）也在覆舟山之南。西面是东晋的芍药园，每年栽种芍药川供宫廷用药。

刘宋代晋以后，把覆舟山下的北郊坛移到宫城之北，闢为乐游苑，把西池也圈在里面，改名乐游池（其範围当在小营以北）。宋文帝刘义隆又以覆舟山以西之地为北苑，兴建楼观，经常召集群臣宴游赋诗，盛极一时。宋孝武帝刘骏时，在乐游苑内兴建正阳、林光两殿，还在山阴处凿藏冰井，每年冬天采冰储存，供宫廷夏天使用。这些建筑到梁武帝晚年，因侯景叛乱，兵困台城，遭受严重破坏。陈霸先建国以后，又重加修建。陈宣帝大建七年夏，因“甘露”频降，在覆舟山上兴建一座甘露亭，採集“甘露”，以宴群臣。南朝有名的文人如鲍照、颜延之、谢灵运、范哗、沈约等都在覆舟山、乐游苑活动过，留下不少绮丽的诗篇。

覆舟山下还建过佛寺。青园寺为东晋末年兴建，刘宋时改名龙光寺。高僧竺道生在这个寺居住过，后因其译着的佛经，对某些教义的领悟，与众僧不同，被视为异端邪说，受到攻击，愤而离开。法轮寺为刘宋时兴建。齐东昏侯永元二年，西平将军崔慧景反，攻入乐游苑，屯兵法轮寺。崔慧景虽是武将，也尚清谈，部下发生争执，他不去解决，却坐在寺内与客人大谈佛理，结果，部下叛离，兵败被杀。

民国年间，在此建玄奘塔。玄奘塔下葬有唐代高僧玄奘的部分顶骨舍利。唐玄奘原葬于西安终南山紫阁寺塔，该塔后毁于战火。刘宋朝天圣五年(1027年)，建康天禧寺和尚可政去紫阁寺，寻得玄奘顶骨，带回建康（今南京），埋于城南天禧寺。清鹹丰年间，寺塔均毁于战火，玄奘灵骨下落不明。1943年2月，侵华日军高森部队在玄奘塔一带建"稻垣神社"，施工中挖出玄奘顶骨，日本人慾占为已有，后经伪政府再三交涉，最终只留部分给中方。1943年2月23日，举行玄奘法师佛骨移交仪式，灵骨由汪伪外交部长褚民谊接收，安置于九华山寺供奉。1944年覆舟山建玄奘塔，该塔仿西安大雁塔式样，为5级4面砖塔，南面门楣上刻有"玄奘塔"三字，底层须弥座上刻有"玄奘法师灵骨"六宁。

由于玄奘法师为中国佛教的发展做出了重大贡献，唐太宗曾亲自为他所译的佛经作序。他不畏艰险、矢志不渝的精神激励了千万中国人。梁啓超称他为“天下一完人”，鲁迅誉之为“民族脊樑”。

1978年，覆舟山闢为公园，山上建筑为一殿一塔，配以凉亭。2003年成立玄奘寺。

南京市玄武区九华山21号