古人祭神有“东青龙、西白虎、南朱雀、北玄武”之说,旧时此处即祭祀北方之神——玄武大帝。
玄武,乃北方之神,龟蛇合体,即道家所奉之真武帝,宋时避讳,该玄武为真武,后世道家祀sì真武,辄zhé以龟蛇二物之像置于其旁。
庙观几乎占据了整个峰顶。它始建于唐。
唐高宗李治追封道家创始人李耳为太上老君玄元皇帝。
至唐玄宗李隆基时,分别于开元十年(722年)和二十五年 (737年)两次下旨,命东西两京和各州县各建一座太上老君玄元庙。
茱萸峰上的玄元庙就建于此时。
唐大历十才子钱起曾登临玄元庙,并写下了《夕游覆釜山因登玄元庙》一诗。后此庙于“文革”期间遭到毁坏,90年代后期进行了重修,但所祀已非老子,而为真武大帝。