观音阁位于南京市正北方幕府山东面，沿江有石灰岩山岭，明洪武年间在山旁建有观音阁，故名观音山，其因年代久远，寺已破旧不堪，但观音阁仍临江耸立，势若俯坠。

20世纪30年代，民国政府重建，重建后被淹数次，直至三峡截流工程完工，处在江中的观音阁才真正幸免于难。

观音阁和“三洞”，在古代历史上，就是很有名的景点，而这一带的观音文化，自古就很盛行。

观音阁建于明洪武元年间（公元1368年），因为山绝壁上有仿唐代吴道子的观音石刻，僧人因选此址建阁而得名观音阁。