為推動嘉南大圳的工程，1920年10月6日「公共埤圳官佃溪埤圳組合」開所（設於今嘉義市），統籌行政管理事務；1921年改稱為「公共埤圳嘉南大圳組合事務所」，新建辦公廳舍在12月11日正式啟用。1921年4月另設置「臺南出張所」（位於今國立臺灣文學館內），處理水租徵收及用地取得相關事項；1921年開始處理水庫的整地及基礎工程，在10月設置「烏山頭出張所」（位於今臺南六甲區八田與一紀念園區），主要負責貯水池堰堤工程、取水口導水隧道工程等。
烏山頭水庫施工初期，因工程輸運量體龐大，八田與一即主張必須引進重型工程機械設備以取代人力及獸力，期大幅提昇效能、縮短工期，加速生產獲益的時程。在成功力排眾議後，便以烏山嶺隧道（又稱烏山嶺引水隧道）及堰堤總工程費約四分之一的經費，採購各式工程機械，包括大型蒸氣挖土機、開山機、氣壓傾倒車、巨型幫浦車、大型混凝土攪拌機等。其中，12輛德國製火車頭搬運建造堰堤的土石，並連結上百部氣壓傾倒車，利用蒸氣傾倒土石，大大提昇工程效能與進度，也降低了人員及牲畜的損傷，同時培養一批可嫻熟操作機械的技術員，為臺灣土木營造產業增添了大型機械與人才。這些機械與人才，在後續1930年代擴建基隆港、高雄港與東西橫斷道路等其他大型公共建設中，扮演了重要角色。