高木與作は佐賀の小城藩牛津出身。明治3年に長崎で酒類販売業を始めます。不動産業なども手がけて当時は西九州随一の富豪と呼ばれ、大正2年には東濱町に長崎高木銀行を設立。個人経営の銀行として評判となります。大正9年には、県立長崎高等女学校開校のために西山の敷地1870坪を寄付し、紺綬褒章が贈られました。この敷地は戦後、県立長崎東高（現在は立山に移転）となります。現在、石碑は東高跡の公園内にあります。