首次发现法兰兹约瑟夫群岛的是挪威的猎海豹者Nils Fredrik Rønnbeck 和Aidijärvi,他们从斯瓦尔巴群岛出发东行时发现的,但是后来逐渐遗忘了。正式将这个群岛记录在案的还是1873年奥匈帝国的北极探险队。1896年挪威人Fridtjof Nansen和Hjalmar Johansen进军北极点失败,归途中经过这个群岛,偶遇在那儿探险的英国人Frederick George Jackson。1914年俄国Brusilov探险队中仅有的两名幸存者Valerian Albanov 和Alexander Konrad登上了这个群岛,发现了Jackson留下的储备和小屋。随着蒸汽船的应用,19世纪最后10年中捕海豹船多次到达此地,其中80%是挪威的。20世纪20年代苏联和挪威同时宣布对该群岛的主权,挪威将其命名为“南森地”。1926年4月15日苏联通过法律宣称苏联的北极区域包括了该群岛和维多利亚岛(不是加拿大的那个。维多利亚岛其实是斯瓦尔巴群岛中的一个,苏联确实有点欺人太甚了),并在5月6日通知挪威。同年12月19日,挪威向苏联表示抗议。