1917年9月，孙中山先生领导的护法战争爆发，阎锡山按段祺瑞的旨意，派旅长商震率部赴湖南参战，反对护法战争，不料全军覆没。自此他接受教训，提出“保境安民”的口号，标榜“三不二要主义”，即不入党，不问外省事，不为个人权利用兵；要服从中央命令，要保卫地方治安。这样，他把力量集中用于本省的经营治理上，提倡以军国主义为内容的“用民政治”。他说：“无论帝国主义、国家主义或军国主义国家的政治，都是用民政治，非用民不足以图强。”“政府政策是军国政策，人民教育是军国教育，社会组织是军国组织。”这是他“用民政治”的思想基础，其内容则为推行六政三事：六政者，水利、种树、蚕桑、禁烟、天足、剪发（男人剪辫子）；三事者，种棉、造林、畜牧。在行政区划的管理上，他借用日本的“村本政治”，建立了行政网，编定村制，五户为邻，有邻长，二十五户为闾，设有闾长，选举地主豪绅为村长和村副，成立保卫团对青年进行军事训练。阎锡山的一系列政治措施，主观上是加强了对人民的统治，客观上对山西省的经济发展也起到了一定的保护作用，又由于山西所处的地理位置关系，使其摆脱了南北之争，暂时出现了社会比较安定、生产有所发展的景象。加上他大力宣传，以金钱名位拉拢名流和政客为他吹嘘，北洋政府遂授予山西“模范省”称号。
1924年，直奉战争爆发，直系和奉系军阀双方先后都派人和阎锡山联系，争取支援。阎锡山是何等样的人物？一见此场战争前途未卜，便借口力量薄弱，保持中立，并派人入京探查消息。不久，冯玉祥发动北京政变，曹锟和吴佩孚大势已去，政局了然，他即刻联合冯玉祥，拥护段祺瑞出山。两年后，直奉军阀联合发起反对冯玉祥的战争，阎锡山又借机扩张势力，一面拉拢冯玉祥，一面应付吴佩孚，最后又公开与张作霖、吴佩孚合作，夹击冯玉祥，使冯玉祥部败北，退守西北地区。阎锡山乘机将地盘扩大到绥远，收编了冯军诸部，部队扩充为十七个师又八个炮兵团，并改名为晋绥军。
1926年，北伐战争开始后不久，阎锡山曾派兵支援刘镇华围攻西安的杨虎城，而对全国战局持观察态度，不轻易出兵。北伐军占领武汉后，他应邀派代表赵丕廉去武汉研讨北伐事宜。赵丕廉到武汉后转至南昌与蒋介石会面，蒋说阎是老前辈，又是丈夫团里的人，盼他能早日举事。国民军委会并授予阎锡山北方国民革命军总司令之职，以促其出兵。但当赵丕廉返晋向阎锡山详述后，他仍不表明态度，也不就任总司令一职。直到次年6月，才以国民党山西省党部提议的名义，自任为北方国民革命军总司令，开始悬挂青天白日旗。此举使张作霖十分不满，派员来晋与阎好言相劝，要其与张合作，并以军政府副元帅相许，阎锡山未允。不久，张作霖派人来以检查部队为名，前往山西布置军事，此时阎锡山觉察到此棋是针对自己来的，于是公开与张作霖决裂，通电声讨张作霖，并兵分两路，分别沿京汉线、京绥线攻击奉军，意图从南北两侧袭击北京。刚开始，他的部队迅速占领了石家庄和新乐，后来却在战争中连连失利，被迫兵退山西，据固关、娘子关和雁门关死守。张作霖一时怒气冲天，调集几十万对人马山西大举进攻，但关塞险恶，久攻不克，部队伤亡惨重，最后也只好退出关外。此时冯玉祥部队受到奉军的威胁,阎锡山于是和冯玉祥联名请求下野后留居日本的蒋介石回国,主持北伐战争,共同对付张作霖。不久,蒋介石回国,就任国民革命军总司令。
1928年2月，蒋介石在徐州召开军事会议，改编军队，成立四个集团军。阎锡山就任国民革命军第三集团军总司令，次月，即出兵进攻奉军，夺下石家庄，收复大同，并指挥所部继续北进，进攻保定，欲夺取京津地区。同时，他派人潜入天津与日本驻军司令新井勾结，取得新井的允诺，支持阎锡山军占领保定，保证北京和天津拱手相让。于是阎锡山全力攻打保定，迫使张学良弃城北撤，阎锡山却不战而进入北平和天津，一时被蒋介石委任为平津卫戍总司令。这样，阎锡山就统治了晋、冀、察、绥四省和平、津两大城市，先后兼任国民党中央政治会议太原分会主席和北平分会代主席、内政部长、晋冀察绥赈灾委员会主席、蒙藏委员会委员。
国民党军队驱逐奉军出关以后，蒋介石借编遣为名，开始削弱异己部队，激起其他派系军阀的不满，最终酿成了新的军阀战争。
当时桂系在西征唐生智和两次北伐过程中得到很大发展，自然成为蒋介石统一中国的巨大障碍。1929年春，蒋介石以桂系擅自免去湖南省主席鲁涤平为由，下令讨伐桂系。为了孤立桂系，蒋介石派人联络阎锡山和冯玉祥。3月29日，阎锡山发表通电，率先响应蒋介石的讨伐令。冯玉祥则采取骑墙态度，并欲伺机占领武汉，答应出兵助蒋讨桂。没想到，蒋介石很快就将桂系击败，兵不血刃地进入武汉。桂系一除，冯玉祥就成了蒋介石要迫切解决的问题。为了击败冯玉祥，蒋介石一面竭力收买冯玉祥的部将，一面离间阎冯的关系。
6月7日，蒋介石致电阎锡山，委任其为北路军总司令，要求阎锡山帮助他进攻西北军，迫使冯玉祥出洋。阎锡山在蒋冯冲突中，既想拥蒋压冯、又想联冯抗蒋。拥蒋压冯，是想借蒋介石的军事实力把西北军挤出豫、陕，以称霸中国北方；联冯抗蒋，是因为他知道蒋介石不能容纳异己，只有联冯，才能有力量抗蒋。因而，阎锡山对蒋介石的电谕讨价还价。他主张和平解决纠纷，并放出话来说他要和冯玉祥一起下野出洋。随后，阎锡山派人到天津购买船票，到日本安排住处，以此来要挟蒋介石。
蒋介石果然着急，立即使用各种手段，力劝阎锡山不要出洋。阎锡山以前曾多次邀冯玉祥到晋共商反蒋大计，但冯始终认为阎别有他图而没有入晋。冯玉祥看到阎锡山这次的举动，逐渐减少了怀疑，加上老友李书成的劝说，冯玉祥决心入晋。
6月24日，冯玉祥偕同妻子在李书成的陪同下到达太原。阎锡山在热烈地欢迎冯玉祥的到来后，并不立刻与冯商讨反蒋之事，而是想将冯把握在手上，进一步向蒋介石要价。蒋介石看到冯玉祥已被阎锡山掌握，马上到北平，并派吴稚晖、赵戴文、孔祥熙三人带着他的亲笔信到太原见阎锡山。请阎赴北平与他商讨西北军的善后事宜。阎锡山一面电请中央撤销对冯玉祥的处分，一面随同吴稚晖于6月30日来到北平。
蒋介石这时立即委任阎锡山为全国海陆空军副总司令，使阎处于一人之下、万人之上的地位。阎也答应蒋介石尽快解决西北军的问题。7月2日，阎锡山突然宣布“得病”，住进医院，闭门谢客。7月4日，他退掉了去日本的船票，并将冯玉祥诱至建安村软禁起来。
阎锡山一面诱禁冯玉祥，一面又召集部下开会，再次表示坚决与冯一道出洋。蒋介石看出阎是在演戏，就顺水推舟，派出方本仁等人去劝阎锡山不要出洋。阎锡山借机下台，到建安村向冯玉祥努力表白自己暂缓出洋并非本心，而是出于种种苦衷。
冯玉祥岂能看不出其中的把戏?但他不露声色，而是暗中设法拆散蒋阎联盟。冯玉祥秘密授意他的部下宋哲元等人，绕过阎锡山，直接向蒋介石靠拢，表示西北军愿意接受中央指挥，要求接济军饷。蒋介石看到西北军已经屈服，认为他的各个击破的计划已经实现，便立即决定召开第二次编遣会议，把矛头对准阎锡山。
阎锡山看到他联蒋压冯的如意算盘，到头来却算到了自己头上，只好又来个大转弯，再次联冯抗蒋。是年中秋之夜，阎到建安村向冯道歉，并提出联合反蒋。冯玉祥看到拆散蒋、阎联盟的目的已达到，遂向阎表示愿捐弃前嫌，合作反蒋。
此年间，唐生智因蒋介石没有给他原来打桂系军阀时许诺的湖南地盘而不满，派人与阎联络并约定，由唐发出通电，拥阎为首，共同倒蒋。阎还答应接济唐军饷60万元。但是唐在通电中却以汪精卫的“护党救国”的口号为由，拥汪倒蒋。阎一见，大为光火，便又伙同张学良等10余人发出通电，拥蒋反唐。
1930年元旦，阎锡山令晋绥军在郑州观望形势，按兵不动，直到讨唐的各路军连战大捷，战局已定，他才亲赴郑州，督师进兵，以图不战而胜。阎的举动早被蒋看透，待讨唐战事一停，便授意韩复榘在郑州秘密捉阎。不料阎得知消息，仓卒化装逃回老巢太原，龟缩不出。2月，阎与蒋之间开始了一场笔战，阎锡山说：“戡乱而不如止乱，不止乱而一味戡乱，国内纷乱，将无已时。”并提出要蒋介石下野。阎锡山首先向蒋介石挑起笔战，一时倒蒋各派系及军阀代表齐集太原，商定倒蒋事宜，倒蒋各派迅速形成了一支强大的反蒋阵线。3月21日，阎、冯发出倒蒋通电，全国大小军阀应者如云。4月1日，阎锡山就任总司令，召开军事会议，决定集结重兵，组织八个方面军，沿平汉线、陇海线和津浦线分兵三路而进。蒋介石也不示弱，4月4日在南京以国民政府名义下令免除阎的所有职务，通令拿办。次日，下令讨阎。于是，一场以阎锡山为首的反蒋大战在中原拉开。
不久，阎和冯在郑州商讨作战方案，作了兵力部署后，阎在鲁北晏城设行营，亲自指挥战争。5月，两军激战于鲁豫，8月又战于津浦和陇海路。阎部因系各军阀集结而成，所以各怀异心，保存实力，争夺地位，以致发生内讧，加之冯部在津浦线受挫，9月18日，张学良通电拥蒋，带兵入关，于是倒蒋之军腹背受敌，纷纷撤兵，最终全线崩溃。阎锡山兵退太原，不久将兵权移交徐永昌，自己又一次化装潜入大连，托庇于日本人，并对山西军政大权进行遥控。这场不义的中原大战，使军民死伤近30万人，战区及附近民众深受其害，蒋阎二氏不能辞其咎也。
1931年8月5日，阎锡山在日本人的协助下乘飞机潜回大同，隐居在家乡五台县的河边村。“9·18”事变以后，汪精卫担任了国民党政府的行政院长，阎锡山即派员赴南京与他联系，又派人去北平向各方人士请求援助，通过宋美龄的关系在蒋介石面前疏通，加上汪精卫的提议，蒋介石表示了“捐弃前嫌，团结御侮”的态度，于1932年2月，委派阎为太原绥靖公署主任，不久恢复其国民政府委员、军事委员会委员等职，还使他当选为国民党中央执委。于是阎蒋再度合流，阎氏重新统治了晋绥两省。他的重新出山，使他一度保守地发展本地经济，发展自己的实力，几年间使山西省的工业、军火业、交通、银行，有了较大的起色，他也从中获得巨利，中饱私囊达两千万元。他还巧立名目收捐派税，居然连农民进城挑粪也要上捐，当时刘师亮撰联讽刺说：“自古未闻粪有税；而今只有屁无捐。”还加个横批曰：“民国万税”。阎锡山的发展地区经济政策给当地人民带来的不是幸福，而是更深重的负担，更残酷的剥削。
1935年华北事变后，日军进窥绥东，阎氏为了维护他的官僚资产和政治地位，提出“守土抗战”的口号。客观上来说，这口号还有一种抗日精神，也就成为他后来接受中国共产党提出的抗日民族统一战线政策的思想基础。这年冬天，中共中央声明停止内战，一致对外，要求阎锡山允许红军通过山西地区开赴前线抗日，而阎氏置国家和民族利益于不顾，拒绝红军要求，并利用黄河天险，在北起河曲，南至永济的黄河东岸，筑起长长的碉堡线，企图阻止红军东渡。次年2月20日，东征红军渡过黄河，打败阎军，阎锡山见老巢太原受到威胁，便急电蒋介石派兵增援。这下正中蒋氏下怀，他正想派自己的部队打入山西，正愁无处下手，此正是天赐良机，即派兵五个师入晋，不料阎锡山军在得到增兵之前被击溃。红军为了珍惜国力以对抗日军，5月5日发出回师通电，撤军至黄河以西。5月26日，毛泽东给阎锡山写了一封信，托被俘的阎部第66师第392团团长郭登瀛带回，敦促阎军和红军联合一致，抗日反蒋：“救国大计，非一手一足之烈所能集事。敝军抗日被阻，然此志如昨，千回百折，非达目的不止，亦料先生等终有觉悟的一日。侧闻蒋氏迫先生日甚，强制晋军二度入陕，而以其中央军监视其后，是蒋氏迄无悔祸之心，汉奸卖国贼无与为匹，三晋军民必有同慨。先生如能同敝方联合一致，抗日反蒋，则敝方同志甚愿与晋军立于共同战线，除此中国人民之公敌。”
直至7月，日军欲进犯绥远，并在山西屡造事端，给阎在山西的地位构成极大危胁。鉴于这一形势，阎锡山从自己利益出发，提出了“抱着弱国的态度，守土抗战，踢破经常范围，加紧自强”的方针，并于9月成立了山西统一战线性质的“牺牲救国同盟会”，简称“牺盟会”，阎锡山自任会长，中共派薄一波同志前往主持该会，成立军政训练委员会，训练进步青年。10月底，阎锡山又大力支持傅作义部队抗击日伪军对绥远的侵略，并取得百灵庙大捷，挫败了日寇侵略绥远，妄图建立“蒙古帝国”的阴谋。
