中华人民共和国宣告成立后，在地方政区建置上，初期实行省、县两级制，并在省、县之间设置专员行政公署，作为省政府的派出机构，管辖若干县市。进入80年代，为适应新时期经济体制改革，逐步推行市管县新体制，实行市管县的地区，市居第二级政区。在地方行政区划上，至1987年已形成了省、市（地）、县（含县级市）3级行政体制。
河南省人民政府是在中华人民共和国建立过程中，于1949年5月成立，省会设在开封市。同年8月，平原省人民政府成立，省会设在新乡市，原河南省黄河以北各市县划归平原省领导。这一时期，河南省共设10个专区，2个省辖市，8个专辖市，86个县。郑州市、开封市为省辖市。10个专区及所属市县如下：
郑州专区：荥阳、郑县、新郑、登封、巩县、成皋、密县等7个县，行署驻荥阳县。
洛阳专区：洛阳市、洛阳、偃师、孟津、新安、宜阳、伊阳、伊川、嵩县等1市8县，行署驻洛阳市。
陕州专区：陕县、渑池、洛宁、灵宝、卢氏、栾川、阌乡等7县，行署驻陕县。
陈留专区：陈留、开封、中牟、洧川、尉氏、通许、杞县、兰封、考城等9县，行署驻陈留县。
商丘专区：朱集市、商丘、宁陵、睢县、民权、柘城、虞城、夏邑等1市7县，行署驻商丘县城关镇。
许昌专区：许昌市、漯河市、许昌、郏县、禹县、临汝、宝丰、鲁山、长葛、襄城、叶县、舞阳、郾城、临颍、鄢陵等2市13县，行署驻许昌市。
淮阳专区：周口市、淮阳、鹿邑、太康、扶沟、西华、商水、项城、沈丘等1市8县，行署驻淮阳县。
南阳专区：南阳市、南阳、方城、南召、镇平、内乡、西峡、淅川、唐河、邓县、新野、泌阳、桐柏等1市12县，行署驻南阳市。
信阳专区：信阳市、驻马店市、信阳、确山、遂平、西平、上蔡、汝南、新蔡、正阳等2市8县，行署驻信阳市。
潢川专区：潢川、光山、罗山、固始、息县、商城、新县等7县，行署驻潢川县。
平原省所设专区、市、县在河南省境内者有：省辖市：新乡市、安阳市。
新乡专区：新乡、辉县、修武、博爱、沁阳、温县、汲县、孟县、济源、获嘉、武陟、原武、阳武、延津、封丘、焦作矿区等15县1矿区，行署驻新乡县。
安阳专区：安阳、林县、汤阴、淇县、浚县、邺县（今属河北省）、漳南（今属河北省）等7县，行署驻安阳县。
濮阳专区：濮阳、内黄、南乐、长垣、滑县、清丰、濮县、范县、朝城（今属山东省）、观城（今属山东省）等10县，行署驻濮阳县。
1952年10月14日平原省人民政府决定，将濮阳专区的范县、濮县、观城、朝城4县划归聊城专署领导。同年11月15日中央人民政府委员会第十九次会议决定，撤销平原省建制。20日，平原省政府发布《撤销平原省建制的命令》。根据中央人民政府的决议，将原属山东省的高唐等29个县全部划归山东省；原属河南省的新乡、安阳2市和林县等22个县以及焦作矿区划归河南省，曾属河北省的清丰、南乐、濮阳、长垣、东明5县，划归河南省管辖。
上述调整，基本确定了河南省域规模及省属市地县建置。此后30多年中，河南省境内的部分市地县行政区划调整、组合情况如下：
一、市地调整
1950年5月9日河南省人民政府决定，将汝南县改设为汝南市，由信阳专署领导。5月21日省政府决定，将商丘县城关镇改设为商丘市，由商丘专署领导。
1951年4月26日中央人民政府政务院决定，撤销汝南市，将原汝南市行政区域划归汝南县。8月3日河南省人民政府决定，朱集市和商丘市合并，命名为商丘市，市政府驻原朱集市。
1952年4月8日中南军政委员会决定，陕州专区和洛阳专区合并，命名为洛阳专区，专署驻洛阳市。6月10日中南军政委员会决定，撤销周口市，改为周口镇，划归商水县领导；撤销南阳市，改为南阳镇，划归南阳县领导；撤销信阳市，改为信阳镇，划归信阳县领导；撤销驻马店市，改为驻马店镇，划归确山县领导。6月27日中南军政委员会决定，陈留专区与郑州专区合并，命名为郑州专区，专员公署驻荥阳县。12月6日中央人民政府政务院决定，信阳专区和潢川专区合并，命名为信阳专区，专员公署驻信阳镇。
1953年1月29日河南省人民政府决定，撤销淮阳专区，其辖县分属许昌、商丘专署领导。10月21日，中央人民政府内务部批准驻马店镇改为驻马店市。11月10日，中央人民政府政务院批准周口镇改为周口市，南阳镇改为南阳市，信阳镇改为信阳市。
1954年10月，河南省人民委员会由开封市迁至郑州市。4月19日省政府决定，洛阳市由省政府直接领导。6月21日中央人民政府政务院决定，撤销濮阳专员公署，其辖县分属新乡、安阳专员公署领导。
1955年1月国务院决定，郑州专员公署由荥阳县进驻开封市，改名为开封专员公署。
1956年国务院决定，撤销焦作矿区，改设焦作市，由省政府直接领导。
1957年3月26日国务院决定，由陕县析置三门峡市，市人民委员会驻会兴镇；由叶县、宝丰县析置平顶山市，市人民委员会驻诸葛庙；由汤阴县、安阳县析置鹤壁市，市人民委员会驻鹤壁集。4月11日河南省人民委员会决定，三门峡市、平顶山市由省政府直接领导；6月27日河南省人民委员会决定，鹤壁市由省政府直接领导。
1958年4月5日国务院决定，撤销驻马店市，改设为镇，划归确山县；撤销周口市，改设为镇，划归商水县。4月8日国务院决定，撤销安阳专区，其行政区域划归新乡专区。12月8日国务院决定，撤销商丘专区，其行政区域划归开封专区。
1961年11月19日国务院批准恢复安阳专员公署，由新乡专员公署领导的安阳、鹤壁2市和安阳、濮阳、林县、滑县、清丰、南乐、汤阴、内黄、浚县、长垣等10县交由安阳专署领导；恢复商丘专员公署，由开封专员公署领导的商丘市和淮阳、太康、永城、睢县、虞城、郸城、项城、柘城、鹿邑、商丘、沈丘、民权、宁陵、夏邑等14个县交由商丘专署领导。
1962年1月中共河南省委批准，开封市由省政府、开封专署双重领导。
1964年3月国务院指示，将平顶山市改为“政企合一” 的平顶山特区，由省政府领导。
1965年5月16日国务院批准，河南省增设驻马店、周口两专员公署，并调整部分专区辖区：
驻马店专区：确山、汝南、平舆、新蔡、上蔡、西平、遂平、正阳、泌阳等9县，专署驻确山县驻马店镇。
周口专区：商水、淮阳、鹿邑、郸城、沈丘、项城、西华、扶沟、太康等9县，专署驻商水县周口镇。
信阳专区：信阳市、淮滨、息县、新县、罗山、商城、固始、光山、潢川、信阳等1市9县，专署驻信阳市。
1969年3月15日河南省革命委员会、中共河南省军区党委决定，将平顶山特区改为平顶山市，由省领导。
1974年1月19日中共河南省委决定，新乡、安阳、焦作、鹤壁4市实行省、地双重领导。
1978年1月11日中共河南省委决定，将新乡、安阳2市分别划归新乡、安阳两地委领导。
1982年3月10日中共河南省委、省政府决定，安阳、新乡2市由省直接领导。
1983年9月11日国务院批准，撤销开封地区行政公署，将巩县、新郑、密县、登封、通许、杞县、开封7县划归开封市管辖；撤销安阳地区行政公署，将安阳、浚县、淇县、林县、汤阴5县划归安阳市管辖；撤销濮阳县，设立濮阳市，由省直接领导，将内黄、滑县、清丰、南乐、长垣、范县、台前7县划归濮阳市管辖。
1986年1月18日国务院批准，撤销新乡地区，将辉县、获嘉、原阳、延津、封丘5县划归新乡市管辖，将武陟、沁阳、温县、孟县、济源5县划归焦作市管辖；撤销许昌地区，许昌、漯河2市升格为省辖市，将禹县、长葛、许昌、鄢陵4县划归许昌市管辖，将舞阳、临颍、郾城3县划归漯河市管辖，将郏县、襄城2县划归平顶山市管辖；撤销洛阳地区，三门峡市升格为省辖市，将渑池、陕县、灵宝、卢氏4县划归三门峡市管辖，义马市（县级）由三门峡市代管，将栾川、嵩县、汝阳、宜阳、洛宁、伊川6县划归洛阳市管辖，将临汝县划归平顶山市管辖；将浚、淇2县划归鹤壁市管辖；将滑县、内黄2县划归安阳市管辖；将长垣县划归新乡市管辖。
二、县（市）调整
1951年4月26日中央人民政府政务院决定，由汝南县析置平舆县，县政府驻平舆镇。7月2日河南省人民政府决定，设谷熟（县级）办事处、郸城（县级）办事处、淮滨（县级）办事处。
1952年1月31日政务院决定，将永城县从安徽省划归河南省商丘专区领导。8月11日政务院决定，撤销谷熟办事处，设谷熟县；撤销郸城办事处，设郸城县；撤销淮滨办事处，设淮滨县。10月21日政务院决定，撤销郑县，其行政区域划归郑州市及新郑、中牟2县。1954年1月23日内务部决定，撤销成皋县，其行政区域划归荥阳县；考城、兰封2县合并，命名为兰考县，县政府驻原兰封县城。6月21日政务院决定，撤销淇县，其行政区域划归汤阴县；撤销阌乡县，其行政区域划归灵宝县；撤销洧川县，其行政区域划归长葛县；撤销谷熟县，其行政区域划归商丘、虞城2县。
1955年11月7日国务院决定，撤销洛阳县，其行政区域划归洛阳市及孟津、宜阳、偃师3县。
1957年5月31日国务院决定，撤销陈留县，其行政区域划归开封县。
1959年8月21日国务院批准，伊阳县改名为汝阳县。1963年3月23日国务院决定，将东明县划归山东省。
1964年2月29日国务院批准，将山东省范、寿张2县部分地区划归河南省，设范县。
1965年11月23日国务院决定，以南阳、唐河、方城、泌阳4县各一部分合并，设社旗县。
1970年1月27日河南省革命委员会批准，设立义马矿区，由洛阳地区革命委员会领导。
1973年12月7日中共河南省委批准，设立范县台前办事处，后改称河南省台前办事处。
1978年12月29日国务院批复，同意将范县东部9个公社划出，成立台前县。
1981年4月4日国务院批准，设立义马市。
1984年1月30日河南省政府批准，设立濮阳市郊区。
1987年4月20日国务院批准，恢复濮阳县建制。
三、1987年的河南省行政区划
1987年底，全省共有省辖市12个，地区5个，地辖市6个，县111个，市辖区40个。各省辖市、地区所辖县（市）区情况如下：
郑州市：金水区、二七区、中原区、管城回族区、上街区、邙山区、中牟县、荥阳县、巩县、登封县、密县、新郑县，计6区6县。
开封市：鼓楼区、南关区、龙亭区、顺河回族区、郊区、开封县、尉氏县、通许县、杞县、兰考县，计5区5县。
洛阳市：涧西区、老城区、西工区、瀍河回族区、郊区、吉利区、孟津县、偃师县、新安县、宜阳县、洛宁县、伊川县、汝阳县、嵩县、栾川县，计6区9县。
平顶山市：卫东区、新华区、郊区、舞阳区、西区、襄城县、郏县、叶县、宝丰县、鲁山县、临汝县，计5区6县。
新乡市：新华区、红旗区、北站区、郊区、新乡县、汲县、原阳县、延津县、封丘县、辉县、获嘉县，计4区7县。
安阳市：文峰区、北关区、铁西区、郊区、安阳县、林县、汤阴县、内黄县、滑县，计4区5县。
焦作市：解放区、中站区、马村区、郊区、修武县、博爱县、沁阳县、济源县、孟县、温县、武陟县，计4区7县。
鹤壁市：鹤山区、山城区、郊区、淇县、浚县，计3区2县。
濮阳市：濮阳市、濮阳县、清丰县、南乐县、范县、台前县，计1市5县。
三门峡市：湖滨区、义马市、渑池县、陕县、灵宝县、卢氏县，计1区1市4县。
许昌市：魏都区、许昌县、鄢陵县、长葛县、禹县，计1区4县。
漯河市：源汇区、郾城县、临颍县、舞阳县，计1区3县。
商丘地区：商丘市、商丘县、夏邑县、柘城县、永城县、睢县、宁陵县、民权县、虞城县，计1市8县。
周口地区：周口市、商水县、项城县、沈丘县、郸城县、鹿邑县、太康县、淮阳县、扶沟县、西华县，计1市9县。
驻马店地区：驻马店市、确山县、汝南县、西平县、遂平县、平舆县、正阳县、上蔡县、新蔡县、泌阳县，计1市9县。
南阳地区：南阳市、南阳县、方城县、内乡县、西峡县、淅川县、镇平县、邓县、新野县、唐河县、社旗县、桐柏县、南召县，计1市12县。
信阳地区：信阳市、信阳县、息县、淮滨县、固始县、新县、潢川县、光山县、罗山县、商城县，计1市9县。