在江東文化風光帶上，還有一處古建筑，那就是“東岳觀”，它位于“退省庵”以南，“歐陽故宅”之北，是衡陽城內最早的道教圣地。

衡陽是宗教之城，衡陽人最早信奉原始宗教的人物有炎帝、禹帝、帝嚳、祝融、赤松子、螺母等，這些傳說中神仙至今還然在一些供奉場所中，看到他們的神位、神像。 道教是南北朝時期，傳入衡陽境內。

據有關文獻記載：晉末，天師道道真施存(?～300號“胡浮先生”)，施存他師從黃盧子，得到了《三皇內 文》這部道教經書，他有驅策虎豹之術。居衡岳西峰洞門觀石室修道，并在衡陽創建了“東岳觀”。相傳，他時跨白豹而出行，愛慕者大都不敢走到他身邊。他于晉 水康元年(300)4月7日升舉。

衡陽地區的道觀與佛寺，在建筑外觀的風格與室內布置上沒有什么區別，走進后如果不看當家人的裝束，還真有些分不清楚。而百姓也是見神就拜，在禮儀上道、佛完全一樣......

精美的龍柱上，還雕塑了施存的故事。 　　唯道獨尊”這四字，反應了道士們希望得到理想境界，而目前事實上則是在衡陽境內，道教的傳播在步步退守，真正的信徒已經遠落后于佛教、基督教，而位居衡陽第三位宗教。東岳觀也是如此，燒香的人并不太多。