玉泉发源于华山主峰，古时泉水自玉泉院喷涌而出，传说泉水与峰顶镇岳宫的玉井潜通而得名。
泉的存在由来已久。唐时传有金仙公主掉簪于玉井又在玉泉涌处找回的故事。金元时期王处一《西岳华山志》记述“玉泉在张超谷口，其水色如浆，因之置玉泉院。泉琼浆玉髓，久服之可去沉疴”。明屈大均《登华记》中记载“玉泉在张超谷，与玉井潜通，院当泉注处。”古时，曾把华山峪叫张超谷，可见王处一和屈大均所记述的同指玉泉院内泉水。
玉泉水量充盈，水色清澈甘冽，曾是玉泉院内的重要景观，不幸的是清康熙四十二年 (1703) 华山峪暴发特大洪水，涧水尽管道西移，泉注处毁废。现今玉泉院中溪水是人工开凿的暗渠，从峪中涧水的上游引入的。
