明代，卫设“屯官”兼理水利。
清初，卫置“屯政厅”，后改设“工房”，掌管河道、水利，渠设“水利老人”管水。
民国时期，政府建设科兼管水利，渠（坝）设“渠长”、“差甲”管水。民国6年，张全贞等撰写的《暖泉水利·董事篇》云：“治水旧有水利老人，此后裁革，渠长、总甲实分其事董治之。”
中华人民共和国成立后，废除旧制，实行专业管理与群众管理相结合的办法。1949年，县人民政府建设科兼管水利，区、乡设水利委员会，坝（渠）由群众推选水利员管水，村设灌溉小组。1953年成立“山丹县水利灌溉管理委员会”及山丹河、马营河、东西山坝3个分会，专管水利，撤销区、乡水利委员会。1956年县政府增设水利科，撤销“县水利灌溉管理委员会”及其分会，设山丹河、马营河（包括东西山坝）水利管理所，是基层水利专管组织和业务执行机关，受县水利科领导。灌区设渠系委员会，坝置专职水利员，社有浇水小组，1957年增设霍城河水利管理所。1958年县水利科改称水利局，年底易名水林部，1959年又改称水林局。1961年增设寺沟河水利管理所（由马营河水管所分出），祁家店水库管理所（由山丹河水管所分出）。1964年恢复水利局，1968年又改为水利林业建设站，1970年设水利电力局，管理全县水利、电力工程建设、农田灌溉及抗旱防汛等工作。内设人秘、计财、工程、水管、农电5股，同年成立“山丹县机械打井队”，隶属水电局。1976年增设老军水利管理所（由寺沟河水管所分出）。1979年马营河水管所改为马营河水利管理处。1981年山丹河、祁家店水库管理所合并，改设为祁家店水利管理处。1982年成立“山丹县水资源管理站”，1986年改称“山丹县水资源管理委员会”，下设办公室，办理日常业务。灌区由受益乡、村领导组成灌区委员会，所（站）设渠系委员会。村置斗长，社有灌水小组，均为群众民主管水组织。1988年，水利电力局共有干部66人，工人201人（内有水管工34人）。其中水利工程技术人员47人（工程师8人，助理工程师25人，技术员14人），设有水利学会。
水电局下属单位有：
祁家店水利管理处 设在祁家店水库，主管祁家店灌区，辖东乐、清泉、红寺湖乡、张掖市碱滩乡架子墩村及国营张掖农场8站。灌溉面积7.22万亩，配水面积6.62万亩。古有南草湖、西草湖、东乐渠共分19坝，为山丹河流域。中华人民共和国建国后，上游有独立引水土渠，改建衬砌为6条干渠，后因泉水减少或干涸，自流灌区变为井灌区。现仅五、六坝有小量河水与井水混灌外，其余各坝皆引井水灌地。下游祁家店水库建成后，废旧渠，新建干渠3条。灌区内有中型水库1座，塘坝7座，小提灌站6处，机井211眼，干渠9条，支渠11条，斗、农渠583条，人畜饮水管道工程10处。下设山丹河管理站、总干渠管理站，水泥预制厂及商店，有水管职工43人。
马营河水利管理处 设于李桥水库，主管马营河灌区，辖大马营、花寨子、陈户、位奇乡、李桥乡高庙村、杨坝村各一个社，清泉乡的北滩村、南湖村、山丹军马二场、国营山丹农场、十里堡林场。灌溉面积11.64万亩，配水面积10.31万亩。古有白石崖、塌岸、大黄山坝、暖泉诸渠，为马营河流域。1956年，始称马营河。新建白石崖引水渠2条，上三坝改建为支渠，李桥水库建成后将暖五闸合并新建干渠3条。灌区内有中型水库1座，塘坝1座，干渠6条，支渠22条，斗、农渠1804条，机井84眼，人畜饮水管道工程4处。下设白石崖护渠队、李桥水库管理所、东干渠管理站、西干渠管理站、水电站、榨油厂、农场、商店，有水管职工87人。
霍城河水利管理所 设在霍城乡双湖村，主管霍城河灌区，辖霍城、李桥乡及位奇乡侯家山、新开村。灌溉面积7.66万亩，配水面积7.11万亩。古有东山、西山、白家、新开、红岩、王村、东达达、西达达、黄马、黄马圈、三坝、大独坝及盛家沟诸渠，为霍城河流域。1957年始名霍城河。原有旧渠均经改建衬砌。灌区内有干渠16条、支渠11条，斗、农渠1046条，机井12眼，塘坝2座。下设后稍沟护渠队、商店，有水管职工32人。
寺沟河水利管理所 设在寺沟水库，主管寺沟河灌区，辖花寨子乡上河、中河、下河村及陈户乡寺沟、陈户、张庄、周坑、范营、崖头村。灌溉面积2.15万亩，配水面积0.92万亩，古称寺沟渠，为寺沟河流域。1958年，建寺沟水库。1971年，建三十六道沟水库，废旧渠，新建渠系。灌区内有小型水库2座，干渠2条、支渠8条，斗、农渠133条，机井7眼，人畜饮水管道工程1处，有水管职工12人。
老军水利管理所设 在流水口水库，主管老军灌区，辖老军乡，灌溉面积1.75万亩，配水面积0.67万亩。古有卫厅木沟等渠。1971年，建流水口水库，次年建瓷窑口水库，原有干渠均经改建衬砌。灌区内有小型水库2座，干渠3条，支渠12条，斗、农渠186条，机井19眼，人畜饮水管道工程2处，有水管职工8人。
山丹县机械打井队 设在县城北。至1988年固定资产达29.4万元，有SPT300型钻机2台，钻车1辆，汽车3辆，压风机1台，还有电焊机、车床（钻床）等设备，有职工50人。