關山地方位居中央山脈和海岸山脈之間，因山地地形效應，降雨量大，孕育豐沛的水資源。本鎮橫跨卑南大溪東西兩岸，卑南大溪流貫東側，西側為卑南大溪上源新武呂溪、及其支流紅石溪、崁頂溪、加鹿溪、加典溪，在流出中央山脈進入平地的谷口處，堆積形成山麓沖積扇。沖積扇扇端湧泉帶有豐富的地下水可用，扇面則為河道分歧，多礫石的河灘地。卑南大溪主、支流河川，在乾季時礫石遍布、芒草叢生；但每逢雨季，洪水奔騰而下，宛如蛟龍出谷、猛虎下山，大水橫掃關山地區，造成生命財產嚴重的損失。這也是光復初期，本鎮仍有廣大的未墾地之因。
　　民國三十七年，本鎮前鎮長曾玉崙先生當時擔任關山農田水利會會長，全力奔走爭取興建大圳，希望藉由水圳的開闢，將關山地區的荒地化為良田。由前臺灣省水利局斥資興建，自卑南溪初來段引水。工程自民國三十七年七月正式動工開鑿，但因工程艱鉅、財政困難，歷時十年，於民國四十七年十月十日才竣工完成（張月昭，2001：14）。
　　完工後的關山大圳長達二十公里（參見關山鎮公所立，大圳簡介），進水量每秒17.72立方公尺（參見臺東農田水利會立，關山大圳圳史碑），灌溉面積高達二千二百七十餘甲（張月昭，2001：14）。使關山地區山麓一帶的荒野坡地，盡化為良田美宅，促進關山土地全面水田化，奠定「關山米」生產的物質條件。關山大圳不僅使關山地方受益，同時也嘉惠鹿野地區，可說是關山、鹿野兩地農業生產之命脈，排水灌溉，孕育無窮生機。
　　為解決關山大圳淤沙問題，提高大圳的輸水功能，增加灌溉效益，及防範山洪暴發所挾帶的大量砂石流入渠圳幹道，沖毀構造物；由關山地方各界和臺東農田水利會建請中央及省府撥款興建沈砂池。於民國七十八年獲得補助款新臺幣三千二百二十萬元，建造沈砂池及其週邊設備，並於同年五月完工啟用。為加強水土保持及水資源涵養效能，於民國八十八年，由經濟部水資源局再撥款補助新臺幣五百萬元，整治沈砂池週邊環境，進行綠美化工程，以維護自然生態及水土資源的永續經營。並展示噴灌對庭園灌溉、節約用水的效益及成果，提供學術界及相關單位一個戶外教學、觀摩的場所（參見臺東農田水利會立，關山大圳圳史碑）。
　　關山環鎮自行車主要即沿關山大圳興建，在大圳旁有關山鎮公所所立「關山生命之源－大圳簡介」，及臺東農田水利會在初來圳頭所立「關山大圳圳史碑」。二者皆是記載關山大圳興建的緣由、過程及其效益。不管是本地人或是外來客，經過立碑之處，不妨佇足細讀碑文，可更瞭解關山的地理環境及地方特色。