晋城古称泽州。秦汉称高都县,北魏置建州、高都郡。隋开皇三年置泽州,开皇十八年改县为丹川县。唐贞观元年始称晋城县,建泽州于晋城。明代荩城县并入泽州,清改名风台县,民国元年复称晋城县。
建国后,山西划为7个专区,南5县归长治专署管辖。1958年并大县,将晋城、高平、陵川3县为晋城县,并沁水、阳城2县为阳城县。1961年恢复5县制。1971年晋东南专区改为晋东南地区,南5县一直属于专区、地区管辖。
1983年7月,改晋城县为县级晋城市。1985年5月,经国务院批准,撤消晋东南地区,成立省辖地级市晋城市,实行市管县新体制,以原晋城市(分为城郊两区,郊区即现在的泽州县)、高平、阳城、沁水、陵川4县为所属行政区。
1985年4月30日,国务院批准(国函[1985]62号)(1)撤销晋东南地区,实行市管县体制。(2)晋城市升为地级市,并设立城区、郊区。将原晋东南地区的沁水、阳城、高平、陵川4县划归晋城市管辖。(3)将原晋东南地区的襄垣、屯留、平顺、黎城、壶关、长子、武乡、沁县、沁源9县划归长治市管辖。