药王寺地处嵩云山群山怀抱之中，背靠山顶的大兴禅寺。药王寺后面有一条清新的石级小路从下往上连接大兴禅寺，两座寺院上下呼应。路边有一条小溪蜿蜒而下。这里一年四季树木常青，流水不断，修建药王寺之前人们曾看见多种珍奇动物在此频繁出没，可爱的小松鼠也常常到大兴禅寺来觅食。
殿宇右边有一古瀑飞流直下，与山涧小溪汇集一处，在山脚形成一个自然水池，引来各种珍奇在此栖息。雨季时节瀑布尤为壮观，似一条白龙悬挂空中。因而当地人取名“吊水洞”。瀑布底下有一平地，相传这就是肉身菩萨无意祖师出家前曾经住过的地方，也是一代祖师的出生地。
药王寺的左边是“罗汉山”，这里曾经树木繁多，也是火灾的常发生地，因此人们把这里比喻成和尚的头——经常剃除头发。现在，这一座座光秃秃的山峦，远看就像一个个和尚在那里禅定，“罗汉山”由此而来。
时值2009年底，药王寺主体工程大雄宝殿已基本圆工，所有彩绘已经完成。正在修建的是山门和钟鼓楼等其它附属建筑。工程竣工后，山门前还将修建一条公路与城市相连，方便十方信士朝山旅游。
