大膽島面積僅0.79平方公里，距離金門島約1萬2000公尺，距離廈門島約4400公尺，在兩岸軍事對峙年代，被視為前線中的前線，當年駐守官兵為求平安，大據點建有較大規模的廟，小據點也建有袖珍型的小廟，作為官兵信仰與精神寄託，但島上最有名的廟宇要屬北山寺與北安寺，但兩處都是官兵的信仰中心，但際遇卻不相同。

北山寺　收容寶靈寺流浪神祇

北山寺位於北山「大二膽戰役紀念碑」的紀念公園旁、建於「北山絕壁」上，此處為「寶靈寺」原址。「寶靈寺」為一棟三進落二迴廊的三百年古剎，供奉媽祖和觀音，相傳由施琅所建，但在大膽戰役中，遭解放軍火砲損毀，全寺彈痕累累，殘破不堪；戰後駐軍為防敵再度進攻，急需加強構築防禦工事，就將殿宇拆除，把木石建材移做為工事之用，並將寺址闢為操場，加強守軍作戰訓練，寺也就因此而全毀。

1976年虎軍部隊利用原來寶靈寺殘存上來的石鼓石柱等建材，利用壁間一個大洞，蓋了間「北山寺」，供奉原寶靈寺殘存下來的神像，收容這些流浪神祇，殘缺不全的神祇。但是2016年9月中旬莫蘭蒂強颱侵襲金門地區，造成嚴重災害，「北山寺」前的金爐都被吹倒損壞；目前在北山寺內供奉的媽祖與觀音神像，是因今年4月承包二膽島工程的包商發生工安意外後，造成一位工人不治，由包商重新請來安座，與過去神祇不同。

北安寺　供奉北極真武玄天上帝

同樣在北山L-08據點後方、北山靶場右方的「北安寺」，緣於駐軍1965年巡視海岸線時，發現漂流過來的一尊大佛像，遭火焚身後投海，全身漆黑，破損多處，不知是何神祇；後經識者判定是北極真武玄天上帝，駐軍建一個簡陋寺廟讓其安身。

「北安寺」為大膽島駐島官兵精神信仰，1990年誠實部隊打挖了好大片花崗岩，成為小廟埕，漿砌塊石堆防土牆，旁做許願池，才有今日的規模，也是島上官兵的信仰中心。為配合大膽島的開放觀光，縣府目前正在重新整修北安寺，經向玄天上帝神明請示同意，由吳師父請下島後送回台灣新北市三重區重塑金身，在開放觀光前，再將重塑金身的玄天上帝請回大膽島。

明威公園內古蹟：劉隆昌將軍墓園

至於大膽島上另處比較特別的古蹟是在南山的明威公園內，則有清代「明威將軍」的劉隆昌將軍墓園。清康熙46年（西元1707年），閩浙粵海賊猖獗，因海賊經常登岸燒殺擄掠，清廷指派劉隆昌將軍（字紹武）剿海寇於大二膽島海域，破賊於浯嶼，餘寇遁入大二膽島，將軍續進剿滅，大獲全勝，特誥封為「明威將軍」。

因劉隆昌將軍對大膽島情有獨鍾，57歲年老辭官後歸隱於大膽島，卒時葬於大孤山上；該墓曾為駐軍構工掩埋數十年，1992年才重修建為「明威公園」，成為島上官兵休閒地方，讓官兵了解明威將軍的盡忠報國之精神。