民国河南省政府先后建有北洋军阀政府和国民政府。此外，日本侵略军在河南还建立有日伪河南省政府。
一、北洋军阀政府
1912年1月孙中山在南京就任中华民国临时大总统，中华民国宣告成立。2月12日宣统皇帝溥仪退位，帝制取消，南北议和，孙中山辞去临时大总统职务。3月10日袁世凯在北京就任中华民国临时大总统，窃取了辛亥革命的胜利果实，中国进入北洋军阀统治时期。3月15日袁世凯下令将各省督、抚改称都督，3月23日张镇芳署河南都督。
北洋军阀时期，河南地方政府为省、道、县三级制。省会开封。1927年6月北洋军阀政权河南省长公署结束。
（一）省长公署 1912年3月，河南省级行政机构设都督府。都督府为军政合一的体制，其下直属机构沿袭清制设布政司、提法司、提学司、劝业道、巡警道。
1913年1月袁世凯颁布的《划一现行各省地方行政官厅组织令》规定，各省实行军民分治，设行政公署。河南行政公署下设1处（总务）4司（内务、财务、教育、实业）。并设高等审判厅、高等检察厅等。
1914年5月北洋政府加强对地方的控制，颁布《省官制》，规定改行政公署为巡按使公署。河南巡按使公署内设政务厅，下设总务、内务、教育、实业4科；并设财政厅，隶属于中央政府财政部，并受巡按使监督。
1916年6月袁世凯死后，黎元洪继任大总统。7月北洋政府下令将各省巡按使公署改为省长公署，河南省长公署下设1厅（政务）4科（总务、内务、教育、实业）。
1917年9月，根据北洋政府颁布《教育厅暂行条例》和《实业厅暂行条例》规定，增设教育厅、实业厅，同时废止政务厅内的教育、实业科。这一年，河南省长公署下设政务厅、财政厅、教育厅、实业厅。
（二）道尹公署 1912年3月河南都督府设立时，其行政体制仍沿用清末省、府、县三级制。开归陈许郑河务兵备道、河北河务兵备道、河陕汝道、南汝光淅兵备道仍为省派驻地方的监察机关。1913年1月北洋政府颁布《划一现行各省地方行政官厅组织令》和《划一现行各道地方行政官厅组织令》，规定地方行政实行省、道、县三级制。各道署改为观察使公署，内设内务、财政、教育、实业4科。同时设4道，即豫东道、豫西道、豫北道、豫南道。2月，为便于推行道制，河南裁原府、直隶州、厅，即裁开封、归德、陈州、河南、汝宁、南阳、彰德、卫辉、怀庆9府及郑州、许州、陕州、汝州、光州5州及淅川直隶厅。
1914年5月北洋政府颁布《道官制》，规定观察使公署改为道尹公署，各道道尹公署分设内务、财政、教育、实业4科。是年豫东、豫南、豫西、豫北道分别改为开封、汝阳、河洛、河北道。9月11日省巡按使公署将河南各道划为三等：开封道为一等道；河北、汝阳道为二等道；河洛道为三等道。9月19日，省巡按使公署决定将河北道驻地由武陟迁至汲县，河洛道驻地由陕县迁至洛阳。
1917年冬，各道尹公署内设机构由4科裁为3科，即内务、财政、教育实业科。
各道所辖属县如下：
开封道：开封、陈留、杞县、通许、尉氏、洧川、中牟、兰封、鄢陵、禹县、密县、商丘、新郑、宁陵、夏邑、鹿邑、虞城、永城、睢县、考城、柘城、淮阳、商水、西华、项城、沈丘、太康、扶沟、许昌、临颍、襄城、长葛、郾城、郑县、荥阳、荥泽、河阴、汜水，道治驻开封县。
汝阳道：信阳、南阳、南召、镇平、沘源（唐河县）、桐柏、泌阳、邓县、内乡、方城、新野、叶县、舞阳、正阳、汝南、西平、新蔡、上蔡、遂平、确山、光山、罗山、潢川、固始、商城、息县、淅川，道治驻信阳县。
河洛道：洛阳、陕县、宜阳、永宁、新安、渑池、嵩县、卢氏、灵宝、阌乡、临汝、鲁山、郏县、宝丰、伊阳、偃师、巩县、孟津、登封，道治驻洛阳县。
河北道：汲县、武陟、安阳、汤阴、林县、内黄、武安、涉县、临漳、新乡、获嘉、淇县、辉县、延津、浚县、滑县、封丘、济源、沁阳、原武、修武、温县、孟县、阳武，道治驻汲县。
（三）县知事公署 1912年3月河南都督府设立时，各县行政机关仍沿用清末旧制。
1913年1月北洋政府划一县制，将清代的直隶厅、直隶州、散厅、散州改称为县。县知事公署为一级最高行政机关。2月，改祥符县为开封县、禹州为禹县、睢州为睢县、淮宁为淮阳、许州为许昌县、郑州为郑县、陕州为陕县、汝州为临汝县、光州为潢川县、邓州为邓县、裕州为方城县、信阳州为信阳县、河内县为沁阳县。
1914年1月，又改唐县为沘源县（1923年3月更名为唐河县）、永宁县为洛宁县。5月北洋政府颁布《县府制》规定，全国各县因事务繁简，可分设2～4科。
1927年6月河南省辖108县。
二、国民政府
1927年4月南京国民政府正式建立。6月13日河南省国民政府成立。1949年河南省国民政府解体。
河南省国民政府是国民党在河南省的地方政权。其统治期间，实行省、县两级制。在省、县之间分区设置行政公署（办事处）和行政督察专员公署。
（一）省政府 1927年6月1日武汉国民政府北伐军攻克开封，北洋军阀在河南的统治结束。6月10日武汉国民党中央政治委员会在郑州举行会议，决定成立河南省政府，任命冯玉祥为省政府主席，鹿钟麟等10人为省政府委员。6月13日国民党河南省政府在开封成立。省政府下设秘书处、民政厅、财政厅、建设厅、教育厅、司法厅。11月，司法厅改为省高等法院。省政府实行合议制，称省政府委员会。
1928年1月成立省交涉署，办理本省一切对外交涉事项，7月30日撤销。11月设统计处（1931年并入秘书处）。12月韩复榘就任省政府主席。
1929年3月25日设工商厅，7月8日撤销。
1930年3月，省政府主席韩复榘率部队去山东。阎锡山委任万选才为河南省政府主席。5月，蒋介石令原河南省建设厅厅长张钫暂代河南省政府主席（张受令后设署商丘，10月6日迁驻开封）。10月7日，刘峙被蒋介石任命为省政府主席，自此，河南进入以蒋介石为首的国民党统治时期。
1934年9月1日，依据国民政府军事委员会南昌行营颁布的《豫、鄂、皖、赣、闽五省合署办公办法大纲》，省政府各厅、处实行合署办公制。
1936年3月成立省地政局。1938年2月省地政局并入省民政厅。3月设立省农林局。6月日军侵占开封，省政府迁驻镇平。
1939年10月5日省政府主席卫立煌就职，并决定将省政府由镇平迁至洛阳。
1940年1月，省政府撤销省农村合作委员会，改设为省合作事业管理处，由建设厅领导。7月，国民政府行政院公布《省卫生处组织大纲》，9月设立省卫生处。
1941年9月粮食部河南省粮食管理处改设为河南省粮食管理局，划属省政府。10月又改为省粮政局。
1942年4月，省政府由洛阳迁驻鲁山。同月，将原属省建设厅的省合作事业管理处改为由省政府直属。6月，依据行政院颁布《省会计处组织大纲》的规定，设立省政府会计处。
1943年8月，成立省设计考核委员会。同月，省保安司令部所属省保安处划归省政府直属。
1944年5月省政府由鲁山迁至内乡县丹水镇（现属西峡县）。7月财政部河南省田赋管理处与河南省粮政局合并为河南田赋粮食管理处，隶属于中央财政、粮食两部，同时受省政府指挥监督。
1945年4月省政府由内乡县丹水镇迁至卢氏县朱阳关，9月又由朱阳关迁返开封。11月设立省政府社会处。12月设立省政府统计室。
1946年6月1日恢复设置省地政局。7月1日河南田赋粮食管理处改由省政府直属。河南农工银行改为河南省银行。8月设置省政府警务处。
1947年1月设省政府人事室。11月16日省政府主席刘茂恩在汴宣称，自29日起，省政府设立总办公处，各厅长、保安副司令、军管区副司令、警务处长等联合于此办公，以 “加强戡乱工作”。
1948年初，省政府统计室改为省政府统计处。10月3日省政府主席张轸迁省政府于信阳。这年省政府直属机构共计16个，即秘书处、民政厅、财政厅、建设厅、教育厅、保安处、调统室、人事室、会计处、统计处、地政局、田赋粮食管理处、社会处、警务处、卫生处、合作事业管理处等。厅代管及中央部属、省政府双重领导的机构有：公路局、长途电话局、邮政管理局、水利局、农业改进所、地质调查所、化工试验所、纺织改进所。
（二）行政公署 行政公署是省政府派驻地方的辅助机关。
抗日战争爆发后，许多省的省会或部分区域为日本侵略军占领，省政府政令不能通行。为此，1939年7月国民政府行政院制定《战区各省省政府设置行署通则》，1944年7月国民政府又公布了《战区各省省政府设置行署条例》。据通则和条例规定，省政府行署的辖区“由内政部、军政部会同有关机关拟定，呈请行政院核准”。省政府行署设主任1人，由行政院就省政府委员中提请国民政府派任。省政府行署秉承省政府之命，在所辖区域内代行省政府职权，以省政府主席名义行文，由行署主任副署。1944年12月河南省政府设新蔡行署。
抗战胜利后，1945年12月国民政府下令废除行署设置条例。1946年2月省政府新蔡行署撤销。
1948年12月20日，国民政府行政院公布豫北、豫东、豫南3个行署组织规程。河南省政府设豫北、豫东、豫南3个行署。1949年1月在灵宝增设省政府豫西办事处。各行署（办事处）各设秘书处、政务处、警保处及人事、会计室。各行署（办事处）分领各行政督察专员公署。
省政府还于1939年在周口设豫东办事处，以整理地方财政；1947年2月在兰封设汛东办事处。以上办事处均属临时机构。
（三）行政长公署与行政督察专员公署 1927年秋～1928年7月省政府设立的行政长公署和1932年10月设立的行政督察专员公署均为省政府的辅助机关。
1、行政长公署 1927年秋冯玉祥为河南省政府主席时，设立豫北、豫东、豫西、豫南4区行政长公署。1928年1月增设豫中一区、二区行政长公署；将豫北区改为豫北一、二区；将豫东区改设为豫东一、二区；4月增设豫北三区、豫东三区及豫西二、三区和豫南二、三区。至此，全省共设14个行政长公署。7月19日省政府令：自7月25日起，撤销行政长公署，改为吏治视察专员。7月26日省政府公布《吏治视察专员规程》规定，全省划为5个视察区，即第一视察区（豫中）、第二视察区（豫东）、第三视察区（豫南）、第四视察区（豫西）和第五视察区（豫北）。设吏治视察专员5人。视察区不列为行政区，吏治视察专员设在省政府。
1928年1月23日省政府令：在河北、山东两省政府未正式成立前，该两省内业经克复县份，应暂归河南省政府统辖，在濮阳设直南行政长公署；在菏泽设鲁西行政长公署。4月29日省政府令：撤销直南、鲁西两行政长公署，“所有政务归中央战地政务委员会办理。”
1927年秋～1928年7月各行政长公署辖县如下：
豫东第一行政长公署，辖开封、尉氏、通许、陈留、兰封、杞县、考城7县，驻开封。
豫东第二行政长公署，辖商丘、宁陵、永城、夏邑、虞城、柘城、睢县、民权8县，驻商丘；
豫东第三行政长公署，辖淮阳、西华、鹿邑、沈丘、商水、太康、扶沟、项城8县，驻淮阳；
豫中第一行政长公署，辖郑县、荥阳、荥泽、河阴、汜水、新郑、中牟、密县8县，驻郑县；
豫中第二行政长公署，辖许昌、长葛、鄢陵、洧川、禹县、临颍、郾城、襄城、叶县9县，驻许昌；
豫南第一行政长公署，辖信阳、确山、遂平、西平、泌阳、桐柏、舞阳、汝南、上蔡9县，驻信阳；
豫南第二行政长公署，辖南阳、方城、镇平、内乡、淅川、邓县、南召、新野、唐河9县，驻南阳；
豫南第三行政长公署，辖潢川、商城、光山、固始、息县、正阳、罗山、新蔡8县，驻潢川；
豫西第一行政长公署，辖洛阳、自由、平等、偃师、孟津、巩县、新安、宜阳8县，驻洛阳。
豫西第二行政长公署，辖临汝、郏县、鲁山、宝丰、登封、伊阳6县，驻临汝；
豫西第三行政长公署，辖陕县、灵宝、阌乡、渑池、洛宁、嵩县、卢氏7县，驻陕县；
豫北第一行政长公署，辖汲县、新乡、阳武、封丘、延津、滑县、浚县、辉县、淇县9县，驻汲县；
豫北第二行政长公署，辖博爱、沁阳、修武、武陟、济源、原武、获嘉、温县、孟县9县，驻博爱；
豫北第三行政长公署，辖安阳、汤阴、内黄、临漳、林县、涉县、武安7县，驻安阳。
1928年1～4月，直南行政长公署，辖濮阳、东明、长垣、清丰4县，驻濮阳；鲁西行政长公署，辖菏泽、曹县、定陶、城武、金乡、单县、郓城、嘉祥7县，驻菏泽。
2、行政督察专员公署 1932年8月，国民政府行政院颁布《行政督察专员公署暂行条例》，规定省以下设行政督察专员公署（1937年，改称行政督察专员兼保安司令公署），为省政府的辅助机关。河南省各专署辖县，从1932年9月初定到国民党河南省政府垮台，经过多次变更。第一次变更于1932年11月，第二次变更于1938年8月，第三次变更于1939年9月，第四次变更于1942年6月。初设14个专署，未及建成旋改为11个专署，辖县112个，1933年底，立煌县移交安徽省，辖县减至111个。1939年，增设第十二、第十三专署，1942年，撤销第十三专署。详细变化情况如下：1932年9月，初划为14个行政督察专署，设第一专署于杞县，辖杞县、开封、陈留、兰封、考城、通许、尉氏、洧川、中牟9县；设第二专署于商丘，辖商丘、宁陵、民权、永城、夏邑、虞城、睢县、柘城8县；设第三专署于淮阳，辖淮阳、沈丘、太康、项城、商水、西华、鹿邑、扶沟8县；设第四专署于郑县，辖郑县、广武、荥阳、汜水、密县、新郑、长葛、禹县8县；设第五专署于许昌，辖许昌、临颍、襄城、鄢陵、郾城、郏县、临汝、鲁山、宝丰9县；设第六专署于南阳，辖南阳、方城、新野、桐柏、唐河、泌阳、南召、舞阳8县；设第七专署于内乡，辖内乡、淅川、邓县、镇平4县；设第八专署于汝南，辖汝南、上蔡、新蔡、西平、遂平、正阳、确山7县；设第九专署于潢川，辖潢川、光山、固始、息县、商城、信阳、罗山7县；设第十专署于洛阳，辖洛阳、巩县、偃师、孟津、登封、宜阳、伊川、嵩县8县；设第十一专署于陕县，辖陕县、灵宝、阌乡、卢氏、新安、渑池6县；设第十二专署于安阳，辖安阳、林县、临漳、汤阴、武安、涉县、内黄7县；设第十三专署于新乡，辖新乡、汲县、滑县、浚县、淇县、阳武、延津、封丘、辉县9县；设第十四专署于沁阳，辖沁阳、博爱、修武、温县、孟县、济源、原武、获嘉8县。
1932年11月，进行第一次调整改划，设11个行政督察专员公署，共分辖112县，属县如下：
第一专署设郑县，辖郑县、开封、广武、荥阳、汜水、密县、新郑、通许、尉氏、洧川、长葛、中牟、禹县13县；
第二专署设商丘，辖商丘、杞县、兰封、考城、陈留、宁陵、民权、永城、夏邑、虞城、睢县、柘城12县；
第三专署设安阳，辖安阳、汤阴、林县、临漳、武安、涉县、内黄、汲县、淇县、滑县、浚县11县；
第四专署设新乡，辖新乡、沁阳、博爱、修武、武陟、温县、孟县、济源、获嘉、辉县、原武、阳武、延津、封丘14县；
第五专署设许昌，辖许昌、临颍、襄城、鄢陵、郾城、临汝、鲁山、郏县、宝丰9县；
第六专署设南阳，辖南阳、方城、新野、桐柏、唐河、南召、邓县、内乡、淅川、镇平、泌阳、舞阳、叶县13县；
第七专署设淮阳，辖淮阳、沈丘、项城、鹿邑、扶沟、太康、西华、商水8县；
第八专署设汝南，辖汝南、正阳、确山、西平、遂平、新蔡、上蔡7县；
第九专署设潢川，辖潢川、光山、信阳、息县、罗山、商城、经扶、立煌（1933年底划归安徽省）8县；
第十专署设洛阳，辖洛阳、偃师、巩县、登封、孟津、宜阳、伊川、伊阳、嵩县9县；
第十一专署设陕县，辖陕县、灵宝、阌乡、卢氏、新安、渑池、洛宁7县。
1938年8月，第二次调整区划，从第一专署中划出开封、通许2县，从第二专署中划出陈留、兰封、考城、民权、睢县、杞县6县增设第十二专区，共辖8县，专署设兰封；从第三专署中划出滑县、浚县、内黄、汤阴4县，从第四专署中划出原武、阳武、延津、封丘4县，增设第十三专区，共辖8县，专署地址不固定。
1939年9月，进行个别地区区划调整，将原属第十二专署管辖的开封，划归第一专署管辖。
1942年6月，再次进行区划调整，撤销第十三专署，将其所辖的滑县、浚县、内黄、汤阴4县划归第三专署管辖；原武、阳武、延津、封丘4县划归第四专署管辖。
1946年底，据统计，全省共设12个行政督察区，共分辖111县，各区分辖属县如下：
第一行政督察区设郑县，辖郑县、开封、中牟、新郑、尉氏、密县、荥阳、汜水、广武、长葛、洧川、禹县12县。
第二行政督察区设商丘，辖商丘、鹿邑、柘城、永城、夏邑、虞城、宁陵7县。
第三行政督察区设安阳，辖安阳、武安、涉县、临漳、林县、内黄、汤阴、浚县、汲县、淇县、滑县11县。
第四行政督察区设新乡，辖新乡、济源、温县、孟县、沁阳、博爱、修武、获嘉、武陟、辉县、原武、阳武、延津、封丘14县。
第五行政督察区设许昌，辖许昌、临颍、郾城、鄢陵、临汝、鲁山、郏县、宝丰、襄城9县。
第六行政督察区设南阳，辖南阳、淅川、内乡、方城、南召、泌阳、唐河、邓县、桐柏、新野、镇平、叶县、舞阳13县。
第七行政督察区设淮阳，辖淮阳、扶沟、太康、西华、商水、项城、沈丘7县。
第八行政督察区设汝南，辖汝南、正阳、确山、遂平、西平、新蔡、上蔡7县。
第九行政督察区设潢川，辖潢川、光山、固始、息县、商城、经扶、罗山、信阳8县。
第十行政督察区设洛阳，辖洛阳、偃师、孟津、伊阳、宜阳、巩县、登封、伊川、嵩县9县。
第十一行政督察区陕县，辖陕县、灵宝、阌乡、新安、渑池、洛宁、卢氏7县。
第十二行政督察区设兰封，辖兰封、考城、杞县、睢县、陈留、通许、民权7县。
1948年4月，国民政府内务部调整各省行政督察区域，河南省与1946年底统计的管辖区域相同。
（四）县政府 1928年6月国民政府废除道制，实行省、县两级制。当年，析开封县城区置开封市，析郑县城区置郑州市，析登封和密县各一部分设民治县（后废），析沁阳县一部置博爱县，析杞县、睢县部分地区设民权县，析嵩县、伊阳、洛阳、宜阳4县部分地区置平等县，析登封、洛阳、伊阳、临汝4县部分地区置自由县。9月，南京国民政府颁布《县组织法》规定，县设政府，为一县行政机关。
1930年国民政府公布的组织法规定，省辖市与县同级，市级行政机构为市政府，设市长1人，综理全市行政事务。同年废除县佐建制。
1931年1月，开封、郑州市建制撤销；6月，合并荥泽、河阴2县，置广武县；7月，平等县建制撤销，其辖区分别划入嵩县、伊阳、宜阳、自由4县。
1932年10月，自由县改为伊川县；析光山县和湖北省的麻城、黄安两县部分地区置经扶县；析固始、商城及安徽省之六安、霍山、霍丘等县部分地区设立煌县，1933年底移交安徽省管辖。
1935年，改广武县为成皋县。次年5月，恢复广武县
