由于新中国成立的特定历史环境和中央政府产生的特殊程序，中华人民共和国成立时并没有形成各级人民代表大会组成的国家权力系统。但《共同纲领》同时也规定，在普选的地方人民代表大会召开以前，由地方各界人民代表会议逐步地代行人民代表大会的职权，成为地方国家权力机关，选举产生人民政府委员会（政府），审查人民政府的工作报告和预算、决算，并且可以做出决定交由人民政府委员会去执行。
根据这一规定，各地进行积极探索，出现了极具影响的“松江经验”。上海松江县是1949年5月13日解放的。解放后四个多月，松江县便于1949年9月30日举行各界人民代表会议。会期五天。
出席代表286人。其中职工代表35人，农民代表138人，青年与学生代表13人，教育界代表22人，自由职业者代表15人，妇女界代表3人，工商界代表30人，开明绅士代表11人，党政军代表19人。会议主要议题是：征收公粮问题、私营企业劳资争议问题、减租减息问题。县长、县委书记都在会上作了报告。会议形式简化，报告简短，目的十分清楚：要把时间留给代表。286位代表共分10个组。先分组讨论，后大会发言。大会期间收到代表提案165件，会议闭幕时又收到14件。
毛泽东看了松江经验的材料后，给予充分肯定，并要求推广。
在松江经验的带动下，全国迅速普遍召开各地各界人民代表会议，“到1952年底，人民代表会议的代表已有1300余万人，其中直接和间接选举的占80％以上，全国各省和直辖市，2/3以上的市，1/3以上的县和绝大部分的乡，都由人民代表会议代行了人民代表大会的职权，选举出各该级人民政府”。在此基础上，1952年11月中共中央即做出决定，准备召开全国人民代表大会，制定宪法。
1952年12月24日，中国人民政治协商会议全国委员会常务委员会召开第四十三次会议。周恩来代表中央提议，由政协全国委员会向中央人民政府建议，于1953年召开全国人民代表大会和地方各级人民代表大会，并进行起草宪法草案等工作。1953年1月13日，中央人民政府委员会举行第二十次会议，毛泽东指出：“为了发扬民主，对政权组织，特别是县、乡两级，来一次全国普选，很有必要。”“前天我看到艾森豪威尔的一篇讲话，他说：中国要办民主选举是不可能的。……为了发扬民主，为了加强经济建设，为了加强反对帝国主义的斗争，就要办选举，搞宪法。”会议通过了《关于召开全国人民代表大会及地方各级人民代表大会的决议》，决定于1953年实行普选，召开由人民普选产生的地方各级人民代表大会，然后在此基础上召开全国人民代表大会，并决议成立以毛泽东为主席的宪法起草委员会和以周恩来为主席的选举法起草委员会。
1953年2月11日，中央人民政府委员会第二十二次会议审议《中华人民共和国全国人民代表大会及地方各级人民代表大会选举法（草案）》，邓小平作说明报告。会议最后通过了《选举法（草案）》并于3月1日公布施行。全国范围的基层选举工作原定从1953年5月开始，计划用三个月时间完成。后因若干省份水、旱灾害严重等因素影响，选举最终于1954年6月结束。
关于这次代表选举工作，1954年9月3日，在一届全国人大一次会议召开前夕，邓小平进行了总结。他指出：1954年6、7月间，全国150个省辖市、2064个县、自治县及县一级的单位和170个中央直辖市的区，全部召开了人民代表大会会议。有些暂时不进行基层选举的少数民族地区的专区级、县级单位也召开了人民代表会议。在这次会议中，各地以无记名投票的方法，分别选举了省、直辖市和自治区的人民代表大会代表共16680人。7月底到8月中旬，各省、直辖市和内蒙古自治区先后召开了人民代表大会会议，分别选举了全国人民代表大会代表。西藏地方和昌都地区采取了代表会议的形式选出了全国人民代表大会代表。全国25个省、内蒙古自治区、西藏地方、昌都地区和14个直辖市共选出全国人民代表大会代表1136人。军队召开了军人代表大会，选出了全国人民代表大会代表60人。华侨事务委员会在所召开的有国外华侨代表参加的侨务扩大会议上，选出了全国人民代表大会代表30人。总计各地区和各单位所产生的全国人民代表大会代表共1226人。此外，台湾省应选全国人民代表大会代表，因该省尚待解放，名额暂缺。全国人民代表大会的代表中有妇女代表147人，占代表总数的11.99%；少数民族代表除选举法规定的150人外，各省、市还选出27人，共占代表总数的14.44%。在全部代表名额中，各民族、各阶层都有与其地位相当的代表。
在代表的选举过程中，当选者莫不感到荣幸。张元济是中国近代影响最大的出版家，为出席1949年全国政协会议中唯一一个见过光绪皇帝、孙中山、袁世凯、蒋介石、毛泽东“中国五位第一号人物”的人，此时已88岁高龄，身患半肢风瘫，卧床不起。他在给同时当选的着名出版家陈叔通的信中说，“当选全国人民代表无上荣幸，必当扶病来京出席，死在北京亦所欣然云云”。
第一届全国人民代表大会代表的选举工作的完成，为全国人民代表大会的召开、制定并通过新宪法准备了组织条件。
1954年9月15日，在北京中南海怀仁堂，1200多名人大代表齐聚一堂，参加第一届全国人民代表大会第一次会议。当时的报道这样描述：代表们“从车床边来，从田地里来，从矿井来，从海岸的防哨来。放下钳子，放下犁把，放下镐头，放下笔杆、圆规……同他们所爱戴的党和政府的领导人们一起，商量着国家的大事”。
“他们当中有很多是对人民革命事业有杰出贡献的人，有很多是各个民主党派、各个民主阶层的代表者，他们是六亿人民的共同意志的表达者。这里有亲历近代中国政治风涛的白发老人，这里有在新时代成长起来、刚到选举年龄的先进青年。他们来自中国的每一个省份，来自绿色的海滨，来自内蒙古的草原，来自拔海五千公尺以上的西藏高原，来自昆仑山雪峰下的绿洲，来自西南边陲的云贵高原。他们是哈萨克、维吾尔、彝、苗、壮……族的代表。”
从第一届到十一届人大，来自山西省的申纪兰连续十一次当选全国人大代表，见证了人民代表大会制度的发展，被国际友人称为中国资格最老的“国会议员”。她说：“过去，妇女们不用说管理国家大事，连家庭小事也挨不着管。
??只有社会主义，才能使我们妇女得到真正的解放、真正的平等。”58年来，她也从当全国人大代表初期只提自己看到的身边小问题，到后来逐渐关心国计民生的大问题，她说：“下至农村上至国家大事，我都要举手，要不说句公道话，还叫什么人大代表？”最朴素的语言往往反映最深刻的道理。正如毛泽东所说“我们有人民的国会”，人民代表大会就是“人民的国会”。在“人民的国会”上畅所欲言、行使权力实为名副其实、理所当然。
1954年9月20日，第一届全国人民代表大会第一次会议全票通过了《中华人民共和国宪法》。宪法明确规定：中华人民共和国是工人阶级领导的、以工农联盟为基础的人民民主国家。中华人民共和国的一切权力属于人民。人民行使权力的机关是全国人民代表大会和地方各级人民代表大会。由此，人民代表大会制度作为中国的根本政治制度以根本法的形式正式确立。之所以称之为根本政治制度，正如中共创始人之一、政法界元老董必武所说：“我们国家有很多制度，如婚姻制度，税收制度，司法制度，军制，学制等等，但这些制度都只能表示我们政治生活的一面，只有人民代表会议或人民代表大会制度才能代表我们政治生活的全面，才能表示我们政治力量的源泉”。
