西汉前，库尔勒市境为匈奴牧地，西汉时为西域三十六国之渠犁、尉犁、焉耆、乌垒国地，属西域都护府管辖，东汉其被焉耆国并，三国至隋时焉耆称臣于中原政权，受西域长史、戍己校尉等管辖，唐初属西突厥，公元648年（贞观二十二年）属焉耆都督府（隶安西都护府），宋属高昌回鹘及西辽，元属别失八里行尚书省，明属东察合台汗国。清初为准噶尔地，公元1759年（乾隆二十二年）清廷平定准噶尔大、小和卓木叛乱后属喀喇沙尔办事大臣下的库尔勒庄，设三品阿奇木伯克，公元1867（同治六年）中亚浩罕匪酋阿古柏军侵占库尔勒庄10年，公元1877年（光绪三年）清军收复此地，公元1882年（光绪八年）该地属喀喇沙尔直隶厅（今焉耆回族自治县），公元1898年（光绪二十五年）属焉耆府，1913年（民国二年）属焉耆县，1917年（民国六年）设库尔勒县佐，1920年（民国九年）属焉耆道，1928年（民国十七年）属焉耆行政区，1930年（民国十九年）成立库尔勒设治局，1939年（民国二十八年）库尔勒设治局升为库尔勒县，属焉耆行政区，1950年属焉耆专区，1954年撤焉耆专区改设库尔勒专区，1960年库尔勒专区并入新成立的巴音郭楞蒙古自治州，州治迁至库尔勒县，1979年库尔勒县成立库尔勒市，1983年撤库尔勒县并入库尔勒市。库尔勒市现辖属5个街道办事处2镇9乡。
库尔勒市在民国时有回、汉二城，回城在孔雀河南岸，城周四里，居民三百余户，当时的库尔勒县衙在回城，汉城则在孔雀河北岸，城周一里多，驻扎军队。今库尔勒市为巴音郭楞蒙古自治州首府，市境东、西长127公里，南、北宽105公里，行政区划面积7117平方公里，城市建成区面积45平方公里，人口近45万人，居住有23个民族，境内驻有新疆生产建设兵团农二师师部及所属3个农业团场、中国石油塔里木勘探开发指挥部、塔里木石化工程建设指挥部和乌鲁木齐铁路局库尔勒段等中央、自治区单位。
