1946年，中国共产党领导下的人民治黄事业在炮火硝烟中起步，冀鲁豫解放区和渤海解放区分别成立治黄机构。

1949年，华北、华东、中原三大解放区联合成立黄河水利委员会。

1950年，政务院将黄河水利委员会改为流域性机构。

1989年，经报请国务院同意，黄河水利委员会为副部级机构。

2007年，经报请国务院同意，国家防总批复成立黄河防汛抗旱总指挥部，黄河防汛抗旱总指挥部办公室设在黄河水利委员会。

2022年，中央编委批复黄河水利委员会“三定”规定，黄河水利委员会为水利部派出的流域管理机构，代表水利部在黄河流域和新疆、青海、甘肃、内蒙古内陆河区域内依法行使水行政管理职责，承担黄河防汛抗旱总指挥部办事机构职责，为副部级。

2023年正式施行的黄河保护法明确，黄河水利委员会及其所属管理机构依法行使流域水行政监督管理职责。