古人把這地理上劣勢變?yōu)榻ㄖ系膬?yōu)勢，采取“一柱插地，不假片瓦”的獨特結(jié)構(gòu)建筑，不插入一根鐵釘。將寺廟牢牢固定在懸崖峭壁上。
寺廟左邊一塊紅色巖石象一口碩大無比的“鐘”，右邊那塊像一面獨步天下的巨“鼓”；甘露寺便在這鐘鼓石之間，所以有這么個說法叫“右鼓左鐘，廟（妙）在其中”，以這來形容其地理位置。
這撐起整座寺院的柱子還被稱為“狀元柱”和“如意柱”，據(jù)說傳說以前這廟很小，供奉著送子觀音，北宋的一位母親前來求子并說：“要是生兒子，一定重建寺廟，巖有多大，寺廟就有多大”，后來果然生了個兒子，并且還高中了狀元。
為償還母親的夙愿，葉狀元調(diào)集天下建筑高手來此建廟，然而，由于這里地勢險峻，廟無法建成、一直蓋不起來。有一天，一個名叫周斫頭的建筑師看見一壯漢扛著一根又粗又直的大圓木，平穩(wěn)地放在抬木頭用的“Y”形鐵叉之間，正在樹蔭下休息。他頓受啟發(fā)，地說道：“府上狀元姓葉，一木四橫；這巖下窄上寬，呈倒過的‘品’字，意為當(dāng)朝一品官?。?/p>
葉家老少聽了，無不歡喜，所以，這廟的香火更旺了，人們來求子，還都愛抱一抱狀元柱，便心想事成、萬事如意。
甘露寺是歷史上最早供奉送子觀音的茅庵，當(dāng)年的葉祖洽為還母愿修建甘露寺時，主閣樓放不下觀音殿，所以只好在大雄寶殿前供奉了一尊觀音菩薩。
如今，在甘露寺的游客越來越多，有的來拜佛，有的來求子，而且在主殿上一炷香就可以獲得佛祖和觀音的雙重保佑，這也是甘露寺香火越來越旺的原因之一。
