舟山由是由大小四百多个岛屿组成。诸岛之中，以舟山本岛最大其“形如舟揖”，故名舟山。
舟山群岛在春秋时是越国东炼《左传》、《国语》称之为甬东或甬句东，即会稽句章县东海中洲。唐开元二十六年（公元738年）姑置翁山县，此为舟山建县之始，后废，宋神宗绍熙六年（公元1073年）复设县，易名为昌国。
康熙二十二年（公元1683年）台湾平定，第二年浙江巡抚赵士麟等以舟山是宁波藩篱，建议驻兵防守。二十七华（公元1688年）海内大定，皇帝钦命为定海，改原定海县为镇海县。定海之名由此而始。
1953年设立舟山专区，1987年1月27日设立舟山市，为省辖地级市。
春秋时，舟山属越，称“甬东”（甬江之东），又喻称“海中洲”。唐开元二十六年（738）置县，以境内有翁山而命名为“翁山县”。至大历六年（771），因袁晁率起义军占翁山而被撤废县治。北宋熙宁六年（1073）再次设县，更名“昌国县”。元初升县为州。明洪武二年（1369），改州为县；洪武二十年废昌国县。至清初，先后两度迁民。清康熙二十六年（1687）再次设县，更名“定海县”，道光时升为“定海直隶厅”。辛亥革命后，恢复定海县建制。民国三十八年（1949）分设定海、盙州两县。
1950年5月17日舟山群岛解放，成立定海县人民政府，属宁波专区管辖。1953年3月经政务院批准，定海县辖区分为定海、普陀、岱山3县，从江苏省划入嵊泗县，成立舟山专区。1954年又将原属宁波专区的象山县划入。1958年象山县划归台州专区。1959年撤定海、普陀、岱山、嵊泗县，合并成立舟山县。1960年11月，嵊泗人民公社划归上海市。1962年5月撤销舟山县，重新设立舟山专区，下辖定海、普陀、岱山、大衢、嵊泗5县。1964年撤销大衢县，其辖区分别划归岱山、嵊泗2县。1967年3月起舟山专区改称舟山地区。1987年1月，经国务院批准，撤销舟山地区和定海、普陀2县，成立舟山市，辖2区（定海区、普陀区）2县（岱山县、嵊泗县），实行以市领导区、县新体制。
