明恵上人が熊野詣で高野山への巡錫中、自作の持念仏である薬師如来像を草庵に安置したのが始まりとされています。　また、寺号の「玉泉寺」は、近くに弘法大師由来の冷水井戸があり、庶民の生活を潤してきたことが起源とされています。