阜阳市历史上以颍州(今阜阳市区)为中心的南部开发较早。
西周以后,在今阜阳境内即建立了董姓的胡子国,临泉境内的姬姓沈子国,颍上境内的慎等。春秋战国时,又出现了太和原墙的原阳、倪邱的新、临泉的寝等县邑。
秦代始置汝阴县。
东汉时期属于豫州(治所今安徽亳州)。
三国魏置汝阴郡。
北魏孝昌四年(528年)置颍州。
隋设汝阴郡。
唐设颍州。
唐德五年(622年)属亳州管辖,在亳州置总管府,辖亳,宋,颍,沈,谯等州。
宋设顺昌府。
元属汝宁府。
明朝属凤阳府。明朝万历十年(1582年),在阜阳县置颍川卫。
清雍正二年(1724年)升颍州为直隶州。雍正十三年(1735年)升颍州为颍州府,并以颍州本辖新置附郭县,乾隆皇帝依奏赐名阜阳县。颍、亳二州首次并为统一版图,“省谯县入亳州,寻降亳州为亳县,改属颍州”。不仅包括今阜阳市、亳州市全境,而且含今六安地区霍丘县的大部分地界。
民国初年撤销颍州府。民国三十八年(1949年)3月,撤阜阳市,并入阜阳县。
1949年10月1日中华人民共和国建立时,阜阳地区有界首市、亳县
、太和县、阜阳县、涡阳县、蒙城县、颍上县、阜南县、临泉县和凤台县。县、市以下划分区(镇)。区以下划分乡(镇)。乡(镇)以下为行政村。中华人民共和国成立后,设立阜阳地区专员公署,下辖八县一个行政办事处。
1953年9月,界首市撤销,建界首县。阜阳地区其它县区划未变。
1964年10月,建立利辛县。其辖地包括由阜阳县划出的4个区,由蒙城县划出的1个区,由涡阳县划出的3个区和由凤台县划出的2个区。
1977年1月,凤台县从阜阳地区划出,归属淮南市。1986年,国务院决定撤销亳县建制,设立县级亳州市。
1992年12月撤阜阳县、阜阳市,重新组建县级阜阳市;1996年1月,撤消阜阳地区和县级阜阳市,设立地级阜阳市。1998年2月,亳州市从阜阳市划出,由省直辖。2000年5月,国务院批准设立地级亳州市,涡阳、蒙城、利辛三县由阜阳市划归亳州市管辖。 [4]