官吏的道德素质状况不仅直接影响国家的行政效能，而且对整个社会的道德状况产生广泛影响。他以规矩共遵和素质提高并举的方式，塑造其高尚的职业道德，忠于国家、忠于职守、勤于政事、办事公道；又在行政过程中养成官德，也就是权力道德，如清正廉洁、诚实无私、遵纪守法等，一度成为行政机关的楷模，前来学习观摩者挤破门槛。
所以僚属在他手下，养成良好的习惯，交代的事情，能办不能办，一定要有下文。
长期抗战得保枪弹无缺，俞大维功莫大焉。
抗战军兴，所有的兵工厂在俞大维督运之下，由人背马驮，爬山过坎，转运西南，然后披荆斩棘，凿洞开工，加班增产，创造了罕见的中国式奇迹。兵工厂，到了抗战胜利，已有18所，分布在西南各省，除了直接生产武器，还有机械、化工、冶金、光学等的研究及生产。
俞大维审时度势，因为当时日军武器整体上优于我国，假如两军在三阳线——洛阳、襄阳、衡阳拉开作战阵势，则日军的重兵器将失去作用，而我军兵工署所造迫击炮、机步枪在抗战后期，其性能已优于日寇武器，如此则掌握胜算之主动。
他到兵工署就职，第一把火就是订立对外招标的黑皮书。以计算成本，作为招标签约的依据，并规定任何采购案，承包商不得向承办单位赠送财物，否则全案作废。此令奉行，立即杜绝原先军火采购中贿赂公行的流弊。管理方面实施了技术提升、成本核算和兵工会计制度。到抗战前，更建立了弹道、光学、冶金、精密技术等多个研究所。并在抗战之初，就在各兵工厂实行了福利社会的一套方法，成立眷村及子弟小学。
交通部任内，他移植了中美联合参谋本部的工作方法，随情势的变化，布置大型图表室，配属通信系统、设置通信网络，再加译电、分析、审阅等功能，使图表变成动态。交通的进步，立竿见影。
每天的早餐汇报，两小时内，要把全国交通的有关事项，分配或解决完毕，先是报告，接着协调，然后裁决。其余的中高级干部，多在欧美接受教育，术业有专攻，水平极高，一套成型的参谋作业和企业管理方法，在这里畅通无阻，很快进入状况，运作自如，完全没有那种痼疾般的所谓公文旅行。
有一次出访美国，偶往无线电城音乐大厅一游，他问一个下属，有何感触？那人答曰，声光俱佳，舞者面容、曲线、服装无一不美。俞大维就说，仅注意这些远不够啊。阁下是学管理的，一百多人的表演者如何进出前后台？如何训练与管理？应到后台观摩，才有心得。他又举中国人的大型筵席，往往宴开一百余桌，侍者如何分配才能同时上菜、撤盘？这里面都是学问。那人听后受益匪浅。
作为大陆时期的最后一任交通部长，邮电、公路、铁路、电信，在他任内无一不是飞速发展，工程、行政效率之高，为各部委之冠，种种细节，可见俞先生大处着眼的高度。
1954年，被任命为最高防务长官。当时他身在国外，陈诚促其束装就道，但对任命，则要先征求他的意见。蒋介石说，不必！他这个人，一旦听到炮声，一定会及时赶到最前线。
他曾亲自乘机到徐蚌战场空中投粮。
像王耀武、黄维、郑洞国等人，虽然战败了，但俞先生很同情他们，认为是可贵的忠贞之士。他也感到自惭：“如果换了是我，大势已去的情况下，我又能如何？”他是设身处地地替他人着想。
陈仪被执，他费尽心力，想去挽救他的生命，向层峰恳求陈情，整整一个上午，上面不置可否，求其苟免未能奏效，他为此伤痛不已。
不在前线，就在去前线的路上！他的办公室总是空的，他总在前线奔忙。1955年3月的一则日记可见其戎马倥偬之一斑。“３月７日晚，我乘太昭舰北巡，翌日抵东引，视察防务后，继驶马祖，途经浪岛、大西洋岛。旋沿北竿塘西岸勘察海滩状况。上午十一时在南竿塘登岸。适遇见顾问团陆军组长麦克唐纳准将，相偕视察部队，然后乘原舰至北竿塘，遇大雾，故仅停留半小时许。九日欲往大白犬岛，因风浪太大不能登岸而返回。”
他营救陈仪，未能奏效。到了孙立人案发，他参与九人调查小组，叨陪末座，第一次开会，陈诚念调查报告，声音细小，他听不太清。轮到他发言，他就说，按照常理，似乎纯属孙立人个人或极少数人的行为，因为假如有案情，其他人就不太可能知情，因为知情的人愈多，事机愈可能提早暴露，知情人既少，为何牵连这么多人？这是难以自圆其说的。这显出俞大维作为最高幕僚之一，感情和缜密的头脑相配属，为孙立人的冤枉，给出可信的论据。
孙立人案发前，职务是参军长，他对战略家余伯泉发牢骚，说是闲混愁闷，无事可做。余氏就劝他去给俞大维当副手，一定会有用武之地。但孙立人心有不平，他说，我是要做大事的人，当副部长，能做什么事！对此，俞大维感慨道：“孙立人不听余伯泉劝告，大事做不成，却出了大事。他如果当我的副手，肯定什么事都不会发生。”
到了他们的晚年，生命最后时节，释放孙立人的事情，已有眉目，孙立人曾告诉探望他的人，如果彻底自由，第一个想见的人就是俞大维。
俞先生躬行幕僚作业之一端，就是折冲樽俎，争取美援。其中的艰难周折，不下于战场的经略和防务的部署。另一方面，他总在前线奔走，具有镇定如山、化险为夷的大将风范，这对前线官兵，往往具有强心针的作用，使其部署化为辉煌战果。
关于一场大型的进攻是否推行，他就向最高层提出了不同的意见。他委婉地申说，时机还不成熟，不宜发兵。身为幕僚，重心在于对事件的评估，可行性与针对性如何，在此基础上进行定调、建言，而非一味地附和，更不能凭意气逞一时之快。
足智多谋的俞大维，在最高防务长官任上，长达11年，常于战略转圜上着眼，使其妙计得售。雄图远略，规划宏阔，得反客为主、反败为胜之奥，极合纵连横、纵横捭阖之妙，观其设策，无中生有，以虚击实，以少胜多，东击西应，四方响和，运筹帷幄，决胜千里之部署，臻兵家化境而远追古人。他的逻辑推理能力和空间想象能力，来自于古人智慧。他5岁启蒙，不久就能背诵《公羊传》，十三经中最具文学风采的《诗经》，他是晚年才补的课。《左传》的文章极佳，可是他在《公羊传》所下工夫最深，他自谦，之所以他的文章没文采，就是中《公羊传》的毒太深。而好处是，《公羊传》将他的脑子也即思维磨砺得像剃刀一样锐利。
八二三炮战，多位高级将官在炮击第一时间毙命，俞大维后脑被弹片擦边削过，血渍斑斑，可他还忙着帮助胡琏、助手、参谋等人规避。
金门遭毁灭性炮击之前，军情部门、一般舆论、新闻界都以为要打的不是金门而是马祖，独有俞大维力排众议。他的判断如下，三星期之内必打，支持他的判断依据，一是最新空中侦察显示，面对金门的对岸各机场，所有米格机都已就战斗位置。二是最新陆上侦察显示，对岸第一线炮兵，所有炮衣都已揭开……
他喜欢隐名埋姓，他婉拒替他作传记的作家：“我只是层峰的僚属、参谋官，没有姓名。”他隐藏他的事功，总结一生的参谋作业，他说得简捷而掷地有声：“身为最高领导的幕僚，意见具申，是我的责任，但层峰决心既定，我唯有服从贯彻。如果层峰下令攻击开始，我必定第一个上前线！”
幕僚作业及参谋意识的延伸
古人讲究的文章，思想宏富，开一代风气，则文字的敏感和讲究也有独在的时代意义。文句的泊漾，虚词的迤逦，种种回环的空间，潆洄水抱，颇有积雨空林的畅朗幽谧，英词盘郁，可润金石，这实在不在战斗性之外。实际上就连纯写景的山水田园诗也暗含一种态度，况乎战斗的闪避旁逸，颠跌反射与文章技法屡有本质契合。邱雨庵（邱清泉）论兵，说“三层火网，子母连环，立体三层，平面三层，上下掩护，内外策应，缩小正面，加大纵深”（《教战一集》）。挺拔与遒劲，自在其中，只要不和贱肉横生的文奴文佣把臂入林，则文字的讲究只会增益思想的深度，而兵法的深郁自然加重志士的分量。
他出国深造的心曲，乃因国际形势渐趋险恶，尤以日本帝国主义者进迫日甚，对日作战，必不可免。邱清泉以民族解放，任重道远，乃决心在军事方面再求探索。陆军大学为德国军事学术宝库，教授均系第一流军事学家。当时校方歧视外国学生，最新讲义多有保留，邱先生向学心切，软磨硬泡取得后，连夜打字抄录，秘为保存，预备再作研究。三年求学，他所集中致力者，就是战术战略及国防建设，尤其对于巴尔克、老毛奇、施利芬及克劳塞维茨的战争理论详加比较研究，于古得里安之装甲骑兵战术，亦多用心。曾谓“如果世界第二大战爆发，则将为机械化部队出风头之时代矣”，他对于鲁登道夫的全民战争论兴趣亦浓，尝于课余翻译，寄回国内杂志发表。
