1827年1月，罗恩被调任战争部部员，负责军事改革。2月，罗恩在战争部会议上提出军事改革方案。
首先是建立独立的征兵系统，各级军官彻底和征兵剥离，不再拥有征兵权及费用。
过去上尉及以上级别的军官都是自主征兵，有一笔数额不菲的征兵费用，这不仅导致贪腐泛滥，更导致军事主官任人唯亲，山头主义严重。在这次改革中，罗恩从军校募集了一批成绩优秀的非贵族毕业生组建了征兵处，全面接手征兵。这引起了一些中级军官的反弹，因为他们工资并不高，就靠着这笔征兵费用捞钱。
军官们没等到路德维希解决此前的问题，反而先看到冲着自己来的改革，气不打一处来，又准备纠合闹事，还把罗恩等非贵族子弟军官称作“路德维希党人”。
于是罗恩又顺水推舟的给出了军官薪资和晋升方案，并把此前受处罚被迫离开军队的军官们一并纳入。
原则上，尉官工资提升30~50%，校官工资提升20~40%。实际上，由于过去征兵效率的低下，浪费的资金远不止这次给军官增加的薪酬；同时，过去副职及参谋其实贪不了军费，反而更支持目前的改革，对主官的位置形成了竞争，让主官不得不接受改革。
不过，伴随加薪的是对军官能力要求提高。
尉级军官每半年进行一次军事素质考核，校级军官每年进行一次军事理论、军事素质双考。双考不过关的不得担任主官，军事理论考核不过关的不得担任参谋，军事素质考核不过关的不得担任副职。此前那些因为各种处罚离开军队的军事贵族，也一并被纳入考核范畴，考核过关的可以重回军队，恢复名誉，不过关的也就对不起了。
这样做虽然对之前的事件给出了一个正面解决的方案，但让很多一进入军队就担任军官的贵族子弟叫苦不迭，他们大多数军事素质还马马虎虎，军事理论就很差，甚至不乏个别半文盲混到校级军官的。然而这种考核制相对公平，配合加薪政策，还是让想纠集闹事的声量减弱了不少。毕竟加薪是事实，考核不过关就是自己丢人，有时间闹事不如赶紧去复习功课。
不过，罗恩为了稳固军心还是给了一条出路：军事理论考核不过关的校官，可以带着军衔重新回军校学习，依然是每年与同级军官一起参与考核，考核过关的可以回军队，换支部队担任原级别副职或参谋，重新等待提拔；三年都不过关的，强制降级为尉官或者退伍。这也意味着，即使重新考核过关，军官也必须告别自己过去的部队，很大程度上肢解了山头主义。
另外，为了安抚这些被迫降级成低级军官的军事容克们，路德维希专门别设置了“骑士铁十字勋章”，只颁发给那些在第一线与敌人直接交火甚至肉搏的军官，其中绝大多数是尉官，由王储授勋。佩戴各级“骑士铁十字勋章”的军官，接受检阅在第一排，在军中受礼遇程度等同于一定级别的高级军官；勋章可以继承，并在勋章上加饰银星以显示传承代数；佩戴时，远比肩章醒目。经过反复宣传吹捧，军事容克子弟甚至出现了宁愿不晋升为校官也要去获得这枚勋章的风气。为了让军事贵族心甘情愿成炮灰，路德维希党人也真是煞费苦心。
最后是对将级军官实行流官制。将级军官是很容易形成山头的权力核心，在改革初期也是旧军事势力最强硬的部分。罗恩提出“晋升必换岗”的政策，上校升少将，少将升中将必须远离自己原有部队，这一方面杜绝形成新山头，也让旧山头的骨干脱离。一些达到晋升条件却赖着不升的“忠仆”显得特别突兀，路德维希就“体贴”的设置了嘉奖年限，该升不升三年后，这些优秀又缺乏“上进心”的军官就会被嘉奖升一级并请进总参谋部任荣誉闲职。
这一套胡萝卜加大棒的手段，逐渐引起了普鲁士军队结构的变化。军事容克由原来集中在将校级变为集中在尉级。将校级军官是军事理论及素质双优的精英，贵族子弟因为基数远小于资本家和平民子弟，经过一系列考核提拔后，人数自然再也不占优势。路德维希达到了削弱旧军事势力的目的。
不过，经过这种结构变化，普鲁士军队也呈现出所谓“战士不怕死，军官不贪财，将领不恋权”的局面，战斗力大幅度提升。
在普鲁士进行军事改革的同时，并不了解普鲁士军事改革的谢绾却不约而同的在莱茵推进自己的军队建设。
此时莱茵军已经有近两万军队。与普鲁士不同，莱茵军的前身是普鲁士的鲁尔军，起家就是资本家和平民子弟，在结构和体制上没什么历史包袱。但这些平民子弟也存在缺乏荣誉感，过度依赖武器的毛病。尤其是奥斯瓦尔德离开后，普鲁士传统的军事荣誉感荡然无存。
比起克劳塞维茨和罗恩这种軍國主义狂热分子，谢绾虽说不是军事理论家，还是懂得战场上精神力量的重要。
莱茵军也设置带有宗教性质的“银十字勋章”以表彰战士、低阶军官——莱茵的“银十字勋章”与普鲁士的“骑士铁十字勋章”的属性、功能、目的都非常相似，几乎在同一时间出现，很难说谢绾和罗恩是谁抄谁的。但谢绾手里可没有那么多需要荣誉感的军事容克，这也导致“银十字勋章”的效果远不及“骑士铁十字勋章”。
所以，为了加强军队荣誉感和作战意志，谢绾不得不在军中贯彻以“人权神授，捍卫自由”为主基调的统一思想，并从基民盟中选拔优秀成员经过军事训练后，下放到连队，由于基民盟所有成员都是基督徒，也就以牧师名义随军，主持队伍思想工作。
当然比起军队的精神世界，谢绾更重视军队装备和作战效率。他作为一个无神论者，其实是不太相信在没有武器和防具的情况下，军队有什么战斗力的。
经过几年的装备制造，除后勤和行政人员外，约有一万五千作战人员都换装了最新式的“谢-U-25”型步枪，高锰钢头盔以及包裹三块高锰钢板护住前胸的防弹衣。在这个时代，这支部队基本就叫“武装到了牙齿”。
不过在此期间，克虏伯先生不幸离世，耽误了一段时间生产，也让谢绾悲哀了好一阵儿。在克虏伯先生葬礼后，谢绾扶持自己的养子阿尔弗雷德·克虏伯成为克虏伯的家主，将克虏伯铸铁厂、克虏伯军备厂合并成为克虏伯军事工业公司，展开克虏伯家族新的一页。
另外，贯穿莱茵南北的大铁路已经完成杜伊斯堡到波恩段，这意味着战争时，莱茵的军队将可以在三天内部署到全国任何一处。这使得谢绾这支规模不大的军队作战效率足以赶得上三倍于它的军队。
谢绾十分得意的看着自己的军队，终于有了点欧洲强军的样子。
