1954年春，毛泽东在会见英国元帅蒙哥马利时说：“我没有什么经验，就是中央集权多了，我就下放一点；地方分权多了，我就收上来一点。”这句话表明中央领导已经意识到中央地方权力划分的重要性，正在探索二者之间的合理界线，同时也表明还没有找到在扩大地方自主权的同时又能维护中央权威的好办法。
新中国成立后，中央扩大地方自主权的第一步是取消大区层次，削减管理层级。1949年后中央基本上依据各野战军的作战区域，在各个省份之间先后设立了东北、华北、西北、华东、中南和西南六个大区，实行高度集权制。大区虽没有相应的法律地位，但事实上享有巨大权力。由于缺乏统治全国的经验，中央先将大部分事情交给各大区处理，积累管理经验。1954年6月20日，中共公布《中央人民政府关于撤销大区一级行政机构和合并若干省市建制的决定》。决定指出：国家计划经济的建设，要求进一步加强中央集中统一的领导。为了中央直接领导省市以便于更能切实地了解下面的情况，减少组织层次，增加工作效率，克服官僚主义，为了节约干部加强中央和供给厂矿企业的需要，并适当地加强省、市的领导，撤销大区一级的行政机构，是必要的和适时的。在步骤上，可以不必采取六个大区机构一次撤销的办法，而采取一个一个撤销的办法。对于各个不同的部门，可视不同性质，按照先易后难、先简后繁的原则逐个地加以撤销。此后，中国的管理层次剩下中央、省、市、县、乡五个层次。
20世纪50年代，中共中央进行了下放权力的第一次尝试。
“一五”计划时期（1953-1957），中国领导人意识到高度集中的计划体制存在管理难题，开始分权改革，国务院为此起草了《国务院关于改进国家行政体制的决议（草案）》，1956年10月13日该决议颁布实施。决议指出，当前改进国家行政体制的首要步骤，是先划分中央和各省、自治区、直辖市的行政管理职权，并且对地方的行政管理权予以适当扩大，然后再逐步划分省和县、县和乡的行政管理职权。决议中关于中央与地方关系部分规定了划分行政管理、计划管理、财政管理职权的原则。各省具有一定范围的计划、财政、企业、事业、物资和人事的管理权。具体分工是中央管理关系整个国民经济、并带全局性、关键性、集中性的企业和事业，其他企事业及相关的计划、财务和人事管理尽可能多地交给地方。国务院管理具有重大国民经济意义的需要全国统一平衡的指标，包括工农业总产值、基本建设投资规模等。各省则管理省内的地区平衡性指标。这一改革命令发布后，大部分中央直管的轻工业和重工业中的中小企业下放给省级管理，扩大了省政府分配物资的权限。
1958年毛泽东亲自发动了“大跃进”运动，权力下放是其主要内容之一。企业管理权下放给地方管理，同时计划管理权、基本建设项目审批权等全面下放，全面下放的结果是出现经济秩序混乱，分权实验宣告失败。
随后，中央对经济进行全面整顿，又收回了大部分下放权力，重新实行高度集中的计划体制。“文化大革命”期间（1966-1976），中央权威受到极大损害。1969年以后，中国开始计划体制下的第二次大规模分权实验，再次实行以块为主的国民经济管理体制。到1974年年底，地方已经拥有相当大的经济管理权限，建立了各自比较独立的经济管理体系。1977年至1978年间，国务院增设20多个部门，再次加强了对铁路、邮电、民航等部门的统一领导。就中国的放权，费正清认为：“统一的中央政府好不容易才明白它的许多职能下放给地方来履行要好得多。虽然通过现代设备中央的命令能以前所未有的效率传达到地方，但是为了真正收到好效果，还应当鼓励地方发挥它们的首创精神。地区的差别是如此之大，在一个单一的国家里一切做法都完全一致也不行。”
改革开放以来，对扩大地方自主权中央开始注意前面的教训，注重从微观部门开始着手，发挥微观单位的积极性。首先选择扩大企业自主权。1978年，农村改革先行一步取得成功，人们开始认识到，要从根本上解决问题，不能在条块权力划分上绕圈子，要把权力下放到微观的生产单位，正如邓小平在1978年所说，当前最迫切的任务是扩大企业自主权。中共十一届三中全会公报也指出经济管理权过于集中的严重缺陷。1980年开始，中央决定在部分国有企业开始试行经济责任制，于1981年在全国推广。1983年至1984年在全国范围推行了利改税的改革，后来又进行了承包制改革。1991年试行股份制，1994年以后开始在企业推行现代企业制度建设。随着改革的深入，政府管理企业的权限越来越多地下放给企业，企业的自主权逐渐扩大。但在改革中，有的地方纷纷拍卖国有小型企业，国有企业职工大量下岗，国有资产大量流失。为了推动国有企业发展，在放权的同时，中央也加大了对国有企业的管理和监督。国有大型企业董事长、总经理等的任命掌握在中共中央手中，通过掌握权力资源分配，中央实现了对大企业的控制。在中央层面设立了国有资产监督管理委员会，主要任务是对国有重点企业进行监督管理。
目前它管理的企业有100多家，涉及煤炭、石油、通信等关系国民经济命脉的行业。
当然，在给地方放权过程中也出现了一些问题。如20世纪90年代初期，地方分权部分导致中央财政吃紧，使得中央的命令很难得到切实实行，中央权威有所下降。为加强中央权威，收回部分所放权力，中央决定调整财税体制，在全国各地建立国税局和地税局系统，国税局收缴的税收大部分归中央政府，地税局收缴的税收则归地方支配。这一被称为分税制的制度设计受到了来自部分地方政府的抵制，他们不愿意把优质税源让给中央。为此国务院总理朱基亲赴那些“缴税大户”集中的省份做工作、谈条件，经过一年多的艰难博弈，分税制改革于1994年起步。但此后随着财权向上集中，出现了“中央财政很好过，省级财政也好过，地市财政过得去，县乡财政没法过”的现象。
在政治层面上，中央对扩大地方权力也进行了尝试。1979年深圳、珠海、厦门、汕头四个经济特区设立，这几个特区实行的经济政策和管理权限比其他城市远远宽松自由。宪法第三条规定：“中央和地方的国家机构职权的划分，遵循在中央的统一领导下，充分发挥地方的主动性、积极性的原则。”1983年起，国家先后批准了14个城市实行计划单列，将其等同省级计划单位，在国家计划中单列户头，直接纳入全国计划，部分赋予这些城市以省级经济管理权限。1984年，又决定开放14个沿海港口城市，1988年决定设立海南岛经济特区，后来1994年又增设了16个副省级城市，扩大了这些地方的管理权限。
这一系列扩权行动调动了地方政府发展的积极性。有些地方，还探索实行“扩权强县”的举措。把那些经济实力强的、为地方贡献大的县改为县级市，并将县委书记的职级由正处升为副厅。对这样的县，在财政审批权等方面给予地级市级别权限。这不仅扩大了县域经济的发展空间，还对县级单位产生了巨大激励。
改革开放以来，地方政府改革已经进行多次。在地方机构改革过程中，中央的行政审批制度得到大幅削减，地方权力得到相应扩大。
2008年，第五轮地方政府机构改革启动。2009年中央专门下发了《关于地方政府机构改革的意见》，允许各省（区、市）因地制宜，充分考虑当地政府职能特点来设置机构，不搞“一刀切”。有的专家认为，这是历次地方政府机构改革中，给地方自主权最大的一次。北京市2009年2月下旬正式启动新一轮政府机构改革，调整优化涉及19个部门。议事协调机构和临时机构也得到了较大精简和规范，市政府共减少议事协调机构和临时机构27个，精简比例达32.5%。发达地区广东改革后，设置工作部门42个，其中省政府办公厅和组成部门24个、直属特设机构1个、直属机构17个，另设置部门管理机构（规格为副厅级）6个。2010年，广东在全省实行了机构编制实名制。
改革后，中国各省（区、市）共减少副厅级以上机构80多个。
应该指出，扩大地方自主权不能简单地理解为扩大地方政府的权力，扩大地方自主权，从根本意义上说，它是扩大人民群众的民主权利，包括选举权、被选举权、监督权和罢免权等。这是地方自主权的首要含义，是第一位的。第二，由于中国实行人民代表大会制度，“人民行使国家权力的机关是全国人民代表大会和地方各级人民代表大会”。扩大地方自主权，还包括扩大地方各级人民代表大会及其常委会的权力。第三，以前两项为基础和前提，扩大地方政府在地方行政管理中的权限，以便使其在法律的范围内，独立自主地管理地方行政事务。如把扩大地方自主权简单等同于扩大地方政府权力，那就可能导致地方权力机关与地方行政机关的本末倒置，甚至使下放到地方的权力偏离社会公共利益的轨道。以人代会为例，改革开放后一段时期内，只有全国人大及其常委会有立法权，地方人大没有。2000年通过的立法法规定了省、自治区、直辖市的人民代表大会及其常务委员会可以根据本行政区域的具体情况和实际需要，在不同宪法、法律、行政法规相抵触的前提下，制定地方性法规。这实际上是赋予了地方立法权限。有些地区对人大制度进行了改革，充分凸显了人大作为国家最高权力机关的地位，人大的监督权、任免权等得到加强。有些地区则要求一些重大决策的出台，必须经过人大的批准后才可实施。人大会被视为“表决器”的误解正在慢慢消失。
多次政府机构改革的成果是地方自主权呈现出不断扩大的趋势。地方立法权得到有限承认，地方税收和中央税收得到一定程度的分离，土地资源实行双重管理，地方人大的职能有所健全。扩大了地方政府的权力带来的积极效果是增强了地方政府的自主性，推动了地方政府以更多精力投身于地方经济社会发展。但也有的地方政府大力推行“三灯政策”，即“看见绿灯赶快走、看见黄灯抢着走、看见红灯绕着走”，以避免和中央政策发生摩擦。
尽管地方扩大地方自主权的冲动一直存在，尽管说中国的政治体制具有高度的集权性质，但实际上中央的权力却是分散的。美国着名中国问题专家李侃如认为中国的政体可以被视作一种“分散的集权主义”政体。在这种分散的集权主义下，地方政府享受着一定自主权。遗憾的是，至今中央、地方分权还没有走出“一收就死、一放就乱”的怪圈。如何更好地实现中央、地方权力划分，仍然是国家治理需要继续研究的大问题。
