与中国的“地方政府”相对应的概念，在日本被称为“地方公共団体”，有的时候也称为“地方自治体”，或者更简略的称为“自治体”。日本的地方自治体主要进行两方面的工作，一是执行地方的有关事务，这被称为“自治事务”，比如收集拉圾（日本拉圾是分类收集，各地方标准略有不同）、消防活动、教育等。另一方面是执行国家委托给地方自治体的事务，这被称为“法定受托事务”，占自治体事务的45％。法定受托事务以前被称为“机关委任事务”，在事务的权限上将知事（相当与中国的省长）或者市町村长作为国家的下部机关对待，而使得中央与地方之间成为一种主从式的关系，也由此受到强烈的批判，并在1999年被废止，后来以法定受托事务这种新的形式继承下来。
比如发行护照就是国家委托给地方的事务之一。日本的护照发行只能由位于东京的外务省进行，但很显然各都道府县（相当与中国的省级单位）都设置了多个旅券事务所受理民众的申请。
可以假设一种有趣的情况，假如地方的知事拒不执行来自国家的法定受托事务，这种情况下会如何呢？比如说某个县的知事认为发行护照对地方的发展没有什么帮助，于是开始拒绝执行。这个时候外务省也不会就自己受理相关县的业务，而是认为县知事拒不受理是对公众利益的侵害，因此国家方面的主务大臣，这里的情况是外务省的外务大臣，就会对知事进行劝说。开始可能只是私底下的劝说，如果知事还继续拒绝的话，外务大臣则可以发出强制性的“职务执行命令”。如果知事继续拒绝执行，则可以向裁判所（法院）提起诉讼，要求知事服从上述的“职务执行命令”。裁判所如果认为国家方面的理由成立，就会对知事下达执行此事务的要求。假如知事还继续拒绝执行，外务省就可以自己向相关县发行护照。而且到1991年为止，内阁总理大臣对拒不执行机关委任事务的知事拥有罢免权。
实际上拒绝执行新的法定受托事务的例子是存在的，这就是1995年后半围绕美军基地用地发生的冲绳代理署名事件。
驻留日本的美军的基地用地的大部分，都是在与土地所有者签定契约的基础上得到土地使用权，但是并非所有的基地用地都取得了所涉及的土地所有者的同意，对此美军可基于「駐留軍用地特措法」等特别法律得到土地使用权。1995年，有一些土地所有者拒绝将土地提供给美军使用。为了强制使用这些土地需要向国家提出申请，为此必须提供“土地調書”之类的文件，而这些文件必须有相关土地所有者的签名盖章。4月，那霸防卫设施局长对土地所有者下达了在这些文件上署名盖章的要求，但遭到拒绝。在这种情况下，根据法律市町村长可以代替土地所有者进行署名，因为代理署名行为属于国家的机关委任事务。然而与此相关的九位市町村长之中，那霸市长、冲绳市长以及读谷村长也拒绝了代理署名。这样代理署名的就上升到由时任冲绳县知事的大田昌秀执行，但大田知事也拒绝了。于是就到了主务大臣粉末登场进行游说的时候，在这个事件上依照法律主务大臣是内阁总理大臣，当时的村山富市首相。村山首相的劝告也被大田知事所拒绝，于是首相对知事下达了强制执行的职务执行命令，而知事继续拒绝执行，于是首相只好采取最后的手段，向裁判所起诉大田知事。日本首相向知事提起诉讼，在日本历史上也是第一次。最后裁判所认定知事拒绝代理署名属于不被允许的行为。
机关委任事务和法定受托事务，以及与此相关的裁判制度，本来是日本为推进全国统一性的政策而准备的制度，但因为将许多本来由国家实行的工作都交给地方自治体实施，导致民众对地方自治体空有自治之名的批评。第一种观点认为机关委任事务将日本中央政府与地方自治体置于一种上下关系，由此导致问题的产生。比如儿童保育所行政的情况，以何种基准提供保育服务全部由中央的省厅决定，但是各地方需要怎样的保育要求，地方又该对何种需求进行何种程度上的应对，这些问题上地方并没有接受中央省厅指示的必要。此外，机关委任事务占地方工作的比例太高也受到了批评。有一种说法认为都道府县占70％，市町村也占到了40％。从城市规划到福祉和环境行政等，横跨了多个领域。对机关委任事务的批评一直不断，最后也导致机关围绕事务在1999年被废止。
虽然存在机关委任事务之类的规定，但严格意义上也无法就此判定日本属于中央集权式的管理。因为机关委任事务虽然存在，但因为实际执行的是地方自治体，因此其中也有一定的自由度和裁量空间。而且日本的地方行政长官，比如说掌握一市的市长，都是由该市的市民所选举出来的市的代表，因此行政长官也不能只看中央的脸色行事，否则下一次选举可能就被市民们轰下台，所以在机关委任事务的实际执行中，地方自治实际上得到确保的情况也非常之多。
机关委任事务之类的组织结构，让地方可以发挥一定的独立性，实际上日本在国家和地方的工作分担方面，也并没有非常清晰的规定。一般来说地方自治体的权限有两种形式的决定方式，一是“限定列举方式”（制限列挙方式），一是“包括授权方式”（包括授権方式）。限定列举方式明确区分了国家和地方自治体的工作。地方的工作内容有限定的被列举出来，如果是由法律或者宪法所列举，那么在与此相关的问题上自治体有权力作为自己的工作来执行，不必接受国家的日常监督。但是越权行为是不被允许的，自治体在权限范围之外没有行动权力。美英等国家中此种方式比较发达。包括授权方式较广泛的承认地方固有工作的权限，与此相对的是并没有很明确的区分地方和国家之间的工作范围。自治体虽然是国家的下部机关，但也是地域综和的行政中坚。德法等欧洲大陆国家中广泛认可这种方式。日本采取的也是包括授权方式。日本的近代地方自治制度是在明治时代所建立，当时受到了德国的强烈影响，在战后的改革中这种方式也没有改变。这种方式是将上述的机关委任事务委任给地方处理的便利的方法，地方的工作内容并没有受到限定，所以国家可以比较容易的将自己的工作交由地方进行处理。
限定列举方式清晰的区分了国家和自治体之间的工作内容，可以避免相互间不必要的干涉，也让国家和地方都能产生相应的责任感。国家并不把自己的工作委任给地方自治体处理，而是在地方设置自己的办事处（出先機関）执行相关的事务。对于一些即是国家也是地方的工作，也可以让国家与地方相互协调进行处理，在发生问题时也可以避免彼此推托责任。基于包括授权方式的中央与地方之间的合作虽然听起来不错，但实际上也导致互相将责任强加给对方的可能。而且包括授权方式效率低下，因为地方自治体单独无法进行决定，必须得到国家方面的许可或者指导，为此会耗费不少的精力和费用。国家和地方之间的工作如果不清晰的区分，会产生不少额外的成本。许多地方自治体都在东京设置了事务所，并派遣职员长驻以负责信息的收集以及联系工作。有意思的是临近东京的横滨市也在东京设置了事务所。而且仅仅设置东京事务所还不足够，地方自治体的负责人和干部也需要经常到东京出差，以获得中央政府的“补助金”，这也耗费了不少钱财和时间上的成本。此外地方自治体还要接收中央官厅指派的官僚干部（天下り）。指派的官僚是自治体与中央官厅之间的沟通渠道，但因为夺去了自治体的主要职位，也会妨害其它职员的工作热情。
包括授权方式因为上述的缺点而一直受到批判，但不可否认，战后的地方自治体也利用这种方式开展了各种活动。最先接受社会经济影响的变化，并实际执行大多数工作的也是地方自治体。日本政府作为一个整体之所以能柔软协调的对这些变化进行对应，也是因为地方自治体没有采取限定列举方式，因此得以在必要的情况下采取更加灵活的应对措施。1960年代之后，日本的地方自治体作为国家先驱，在公害防止的环境政策、福祉政策、都市规划等方面，都下了不少功夫考虑对策并付诸行动。岩手县泽内村采取的老人医疗免费化方案就被引入东京都并推广到全国，最后成为一项国家政策。某些自治体开始的政策在其它自治体中得到推广普及，并成为国家政策的例子还有不少。虽说机关委任事务很多，但从地方发起的创意其实也不少。在一些本来不被认为是地方自治体工作范畴的领域，自治体也施展一定的影响力，典型的比如自治体的外交和国际政策。自治体不仅与世界各地进行经济交流，而且对NGO实施支援。神户市拒绝搭载核武器的舰艇入港，要求各舰艇出示没有进行核武装的证明书，这也作为神户方式广为人知。不在意属于地方或国家的工作，将由地方理念而产生的好的政策推广到全国，这种柔软的态度能在日本实现也是拜包括授权方式所赐。
在日本的国家和地方相互的依存关系之中，地方能发挥自己独自性的关键，在于知事和市町村长这些首长们所担当的角色。战后日本采取了市町村长和都道府县知事由住民直接选举产生的公选制制度。在国家层面上日本采取议院内阁制，而地方自治体首长的产生则接近总统制（大統領制）。采取这种方式的国家其实不多，法国的市町村长是由地方议会选举产生，英国自治体的长官也是议会的议长，美国以大都市为中心跟日本采取一样的市长制度，但并没有在全部的地方自治体中实行。日本在战前市町村长也是由市町村会选举产生，知事则由国家任命。
知事和市町村长经由公选制产生，使得首长可以不必按照国家的脸色行事，可以提出与国家不同的方针政策。从1960年代后半到1970年代前半，以都市为中心诞生了不少革新自治体，这些革新自治体就展示了这种戏剧性的变化。在日本社会党和日本共产党等革新政党的推荐和支持下当选的知事和市长们，高举“直接民主主义”、“直接联系住民”、“生活优先”等口号，批评国家的政策为“财界主导”、“经济优先主义”。在与自治体内保守系议员较多的地方议会博弈的同时，这些知事和市长们也在许多政策领域实施了先驱性的政策，特别是在防止公害的环境政策以及福祉政策等方面非常活跃。横滨市当时就与工场缔结了公害防止协定并进行相应的约束，东京都不仅实行比国家法规更加严格的公害防止规定，而且采取了上边提及的老人医疗免费化方案。革新自治体对自民党政权所施行的国家层面的政策产生了极大的影响，被称为“没有政权交替下的政策转换”。而这些革新知事、革新市长之所以能够产生，也是因为日本在战后导入了与总统制相近的共选制。很难想象如果像战前一样，知事由国家派遣，市町村长由市町村议会选举产生，这样的情况还会发生。现在被称为市民派或者无党派的很多知事和市町村长们的言论，也频频引起大众媒体的关注。从其中也可以看出，战后日本的地方自治制度，是一种能够对时时变化的社会经济状况和住民意识进行柔软协调应对的制度。
在很长一段时间里日本一直被认为是中央集权国家，地方受到中央政府的压制。从上边的讨论可以看出这样的说法也比较片面，日本的中央跟地方之间其实是一种更具弹性的关系。地方自治体虽有各种障害，但在战后的日本政治中发挥了重要的作用。进入新的世纪之后，在地方分权推进委员会以及之后的地方分权改革推进委员会的推动下，地方分权化也得到了更进一步的发展。
首先，根据这一分权化而废止了机关委任事务制度，将之分为上述的自治事务和法定受托事务。法定受托事务虽然占了自治体事务的45％，但是与机关委任事务不同，国家的干预更少，而且干预是依照法律或者相应的政令，基于更加透明的规定进行。其次，为了处理国家和自治体之间的纷争而设置了第三方机构－－国家地方纷争处理委员会（国地方係争処理委員会）。地方自治体对国家的干预有所不满的话，可以向委员会提出审查要求。由此，地方分权推进委员会等希望将国家与地方之间的关系，从以前的“上下、主从”转变成“对等、合作”。第三，地方财政方面也产生了变化。从国税与地方税关系看，日本比起英法等国地方税的比例更高，接近联邦制的水平。而且虽然承担各种受托事务，但日本中央和地方的政府全体之处中地方所占的比例比联邦制国家更高。单单看这些方面，日本的地方自治在数量上是相当充实的。但是从地方税的组织结构上看，征收什么样的税金实际上都由中央控制。最近在地方税法所没有提及的领域中，法定外税等的新设也变得相对容易一些。为税收低下所困扰的地方自治体，也构想了类似产废税、旅馆税等税种，或者已经开始实施。
在日本的近代化过程中，中央与地方时而互相竞争，时而彼此合作，在这种结构上应对时代的变化并取得了良好的结果。在相互的依存之中提高彼此的适应力是有必要的，但是在实现了近代化、取得了一定数量富裕之后的现在，面对的时代课题也在不断的发生变化。在新的时代，国家应该做什么，地方应该做什么，在越来越重要的地方自治体之中，市民又应该发挥怎样的作用，这些都成了新时期日本国民需要重新思考的内容。
