与进攻孟达急速猛厉的策略相比，司马懿与诸葛亮对阵却稳如泰山，谨慎行事，持重相抗。
诸葛亮是蜀国丞相，志在复兴汉室。经过充分的准备后，于后主建兴五年（公元226年）上表北伐。魏国起初以大将军曹真率督诸军抵抗诸葛亮。后来曹真病还洛阳，不久死去。魏明帝太和五年（公元231年）诸葛亮进军天水，围曹魏将军贾嗣、魏平于祁山。这时，司马懿为荆州都督，镇守宛城，自荆州入朝，魏明帝说：“西方边事吃紧，事关全局，关系重大。除了你，他人是难负此任的。”于是派他西屯长安，都督雍、凉二州诸军事，统辖车骑将军张郃、后将军费曜、征蜀护军戴凌、雍州刺史郭淮等部抵御诸葛亮。司马懿受命进军隃麋，又进驻汉阳，与诸葛亮相遇。略为交战，蜀军因军粮不足，而撤军遁走。魏军追击，俘斩万计。
这时魏军军师杜袭、督军薛悌都估计明年麦熟，诸葛亮必兴兵再犯，应抓紧冬季时间运粮于陇右。而司马懿则作了这样的预见：“亮再出祁山，一攻陈仓，挫衄而反。纵其后出，不复攻城，当求野战。必在陇东，不在西也。亮每以粮少为恨，归必积谷。以吾料之，非三稔不能动矣。”事实证明，司马懿的预见是十分准确的，诸葛亮果然在三年后复出，于青龙二年（公元234年）才大举兴兵。其出兵地点在陇东，作战方式主要是野战，完全不出司马懿所料。
尽管诸葛亮采取了种种措施，毕竟蜀汉国力不及曹魏，所以他是拖不起的，他与司马懿相持半年之后，再也耐不住了，便向司马懿下了战表。司马懿高悬免战牌，不予理睬，任凭蜀军骂阵也好，诱战也好，就是不为所动。
诸葛亮派人到魏营给司马懿送去一个礼盒，司马懿不知道老对手又在搞什么名堂，打开礼盒一看，原来里面装着一套女人的服装和一些脂粉、首饰等物品。送礼的使者说：“诸葛亮见司马大将军如此畏战，所以派小的送来此物，说大将军不如到裙钗中去为伍吧！”
司马懿堂堂的魏国领兵统帅，岂肯受此大辱，顿时大怒，正想发作，他又猛地按住自己的性子，告诫自己千万不要中诸葛亮的激将之计，于是他强作笑容说：“多谢丞相好意，日后定当重谢。”
司马懿虽有如此肚量，营中将军们却再也按捺不住，纷纷请求出战，一时间，群情激昂，大有一触即发之势。司马懿为稳住军心，便说：“不要以为我心里好受，我的愤怒超过诸位十倍，但万事不宜莽撞，诸位将军请求出战，其志可嘉，还应请主上明示！”接着他派人去向魏明帝请示。
明帝深知司马懿的本意，只是为了堵诸将之口，并不真想作战，于是在奏本上批了“不准”两字，并派使节持他的节杖来到军营，明确宣布“若有再言战者，定斩不赦！”到底是皇帝的权威大，众将再也不敢求战了。
蜀军密切关注魏军的动向，见曹营来了朝廷使者，诸葛亮知道自己的激将法已被司马懿化解于无影，不免忧心忡忡。大将姜维怕他急出病来，连连安慰，诸葛亮心想：北伐的重任，看来我难以完成，这副担子要压在你们的肩上了。但他仍振作精神，不断地派人向魏军下战表。
司马懿我行我素，他知道蜀军粮草不如魏军充足，不战就是战，这是一场比实力比耐心的战斗。他还兴致勃勃地与下战表的蜀使拉家常、谈闲话，一次他“关心”地问起诸葛亮，使者出于对诸葛亮的崇敬心情，便实话实说：“丞相日理万机，无事不亲自操劳，连处罚二十板子的小事也要过问，饮食少进，寝睡不安。”
司马懿煞有介事地安慰说：“请转告丞相，望注意保重！”打发使者走了。
司马懿高兴地对部众说：“看来，蜀军不久就要退兵了。”
果如司马懿判断的那样，诸葛亮进兵无策，忧愁烦闷，难以排解，加上重任在肩，事必亲躬，身体已大不如前，患有疾病仍强打精神，听到使者报告司马懿问寒问暖，不由大惊：“司马懿居然来攻我的心了。”当然他心坚如铁，司马懿难以攻动，但从中他预料魏军决不会再与他决战了，对此，他心急如焚。
不久，诸葛亮果然病倒了，也是为了粮食之事，蜀国已告粮罄，尽管有木牛流马解决运粮之事，但巧妇难为无米之炊。他急火攻心，在睡觉时吐出一口血来，他知道自己不行了，仍强支精神，对后事作了安排，命人将长史杨仪、大将姜维及费等重臣叫到跟前，商量退兵之计。
消息传到成都，刘禅急忙派大臣徐福为特使，昼夜兼程，赶往五丈原。诸葛亮在病榻上对徐福说：“我死之后，你们仍要一如既往，辅佐皇上，复兴汉室！”
徐福含泪点头，问道：“丞相之后，何人继职？”
诸葛亮奄奄一息地说：“蒋琬可任丞相，再由费继之……”一代伟人就此永别人世。真可谓是“出师未捷身先死，常使英雄泪满襟！”
司马懿对自己拖住敌人避而不战的持重战略，十分自得，信心十足。弟弟司马孚来信问军事进展情况，他复信说：“诸葛亮虽率军十万，但已落入我的圈套。大破蜀军，指日可待。”
他与蜀军避战对峙百余日后，诸葛亮于八月病死。蜀将杨仪等整军而退，百姓奔告司马懿，司马懿忙率军追击。姜维让杨仪返旗鸣鼓，作出要反击的样子。司马懿怀疑诸葛亮死讯不实，不敢贸然再追，下令退兵。杨仪得以从容退去，至安全地带后才发丧。蜀军退走后，魏军才放胆而来，检查蜀军营垒，见粮谷、军事文件、图书弃置狼藉，断定诸葛公真死，蜀军之退并非诱敌之计，这才下令急追。但蜀军在道上布有很多蒺藜，难以通过。司马懿想出一条妙策，他命两千士兵穿着软材平底木屐走在前面，蒺藜尽被木屐沾去。后面的骑兵步兵顺利通过。一直追到赤岸，才得知诸葛亮死去的准讯。百姓用谚语讥笑司马懿说：“死诸葛吓走生仲达”。司马懿听到后，自我解嘲说：“吾能料生，不便料死也！”他对自己的对手深为钦佩，称赞他为“天下奇才”。事实上，魏国如果没有老谋深算的司马懿作统帅，要抵御诸葛亮的十万大军是十分困难的。
远征平公孙
魏明帝曹睿即位之初，继任辽东太守的公孙渊向孙权称臣。孙权急功好利，派使臣张弥、许晏带领两万士兵到辽东，想将远在外关的辽东土地，归入江南水乡泽国的吴国版图。公孙渊出尔反尔，杀了孙权的使臣并收编其士兵，又去归顺曹魏。
到了公元二三七年，公孙渊因对曹魏不满，就自立为燕王，建号绍汉，独立于魏、蜀、吴之外，同曹魏分庭抗礼。
曹睿如何容得公孙渊如此嚣张，他派大将司马懿领兵四万前往辽东讨伐公孙渊。临出发时，曹睿曾同司马懿谈了一次作战方案以及敌我双方攻防等方面的谋略，司马懿谈得头头是道，曹睿听了非常高兴，问道：“爱卿此次出征需要多少时间？”
司马懿说：“辽东路远迢迢四千余里，前往一百天，作战一百天，返回一百天，休息六十天，一年时间够了。”他连时间都算得那么精确，似乎胜券在握了。
司马懿率领大军渡过黄河，穿越华北平原，于当年六月进军到辽东。公孙渊得到消息，即令大将卑衍、杨祚率主力精兵数万屯兵于辽隧（今辽宁海城北），并构成了二十多里的长壕坚守，挡曹军于国门之外。
司马懿是个坚守不战的行家，现在公孙渊“以其人之道还诸其身”，这一着果然厉害，魏军将领因司马懿已提出作战一百天的期限，怕久拖不利，纷纷要求出战。
司马懿何等精明，他多次与诸葛亮作战，都能保持“金刚不败之身”。饶你诸葛亮有天大本事，也要被粮草有济所困扰，只能全身而退，即使拣点小便宜，如降服一个将领（如姜维），斩杀某个大将（如张郃），最后还是耗费军力物资，吃了大亏，公孙渊狂妄有余，智谋不足，哪是司马懿的敌手？一切都在司马懿的算计之中。
司马懿不与公孙渊的主力纠缠，却绕道去攻公孙渊的老巢襄平（当时的辽东郡治所，今辽阳市北），并在途中设下伏兵，攻击回援襄平的辽东兵马。
公孙渊果然被司马懿牵着鼻子走，他怕襄平有失，忙令大军撤回，在途中遇到伏击，魏将夏侯霸将辽东大将卑衍斩于马下。公孙渊退入襄平，陷于魏军的包围之中。
正当魏军准备攻打襄平城时，突然天降大雨，终日不停，辽河猛涨，洪水泛滥，攻城魏军陷入洪水的包围之中。不要说打仗，连生活都成了问题，有的将领提出要移营，司马懿怕移营出现不稳的被动局面，就不准移营；有的将领又提出冒雨进攻，司马懿怕冒雨进攻，得不偿失，不准进攻。
既不移营，又不进攻，司马懿是在与公孙渊比毅力、比耐心。他认为，天下大雨，是偶然因素，总有天晴的时候，那时形势就会逆转；再则，襄平虽被包围，但包围圈尚未合拢，趁雨天公孙渊不会主动出击，将包围圈合拢，再说公孙渊现正洋洋得意，认为天公作美，帮他大忙，决不会逃跑，这就有利于把他们就地歼灭。
雨过天晴，司马懿向襄平发起强攻。他筑土山，居高临下，向城内射箭；在地面用冲车撞城；在地下挖地道进攻。公孙渊好景不长，他抵挡不住司马懿的猛烈进攻，想逃跑，为时已晚，襄平被围得像铁桶似的。在关键时刻，他属下大将杨祚又率部投降，他无计可施，派相国王建和御史大夫到魏营求和，提出：“魏军后撤解围，公孙渊率领朝廷大臣们自缚投降。”
司马懿不是孙权，岂会上他诈降的当？再说司马懿志在消灭公孙渊的势力，哪肯后撤解围，当即将两个使臣杀了。公孙渊又派出使者到魏营求和，以儿子作人质送到魏营，要求魏军“后撤解围”。司马懿对来使说：“军事行动有五个步骤，能战就战，不能战就守，不能守就退，这三步做不到，就只能投降和送死两条路了。公孙渊如今不肯自缚来降，还喋喋不休提出议和条件，你回去告诉他，他的儿子不必送来了，就让他等着送死吧！”
不久，魏军攻陷襄平，公孙渊和儿子公孙修率领数万骑兵向东南逃跑，司马懿挥马追击，在梁水上游，彻底打败了公孙渊的逃兵，临阵斩杀了公孙渊父子，并乘胜平定了辽东、带方、乐浪、玄菟四郡，把辽东重新纳入了曹魏的版图。
司马懿班师回朝，时间正好一年，他得到了明帝曹睿的奖赏和朝野人士的交口称誉，从此他权势日重，成为能左右曹睿所执政的曹魏政权的最大实力派，打下了司马氏家族取代曹魏家族的基础。
韬晦诛曹爽
景初三年（公元239年）正月，司马懿急急赶到京城，跑到嘉福殿卧室内拜见气息奄奄的魏明帝。魏明帝拉着司马懿的手，将八岁的太子曹芳托付于他，命太子上前抱着他的脖子。司马懿顿首流涕，受遗命与大将军曹爽共辅幼主。明帝即日死去，葬于高平陵。
曹爽是已故大将军曹真的儿子，是曹操的侄孙，小皇帝曹芳的族叔，代表着宗室显贵的利益，官拜大将军，更是权倾一时。他嫌司马懿碍手碍脚，就任用自己亲信，竭力排挤司马氏家族的势力。
曹爽的亲信是些什么人呢？何晏是东汉末年大将军何进的儿子、曹丕的妹夫，他喜欢涂脂抹粉，每走一步路都要回头看看自己的影子，是典型的顾影自怜的花花公子，外号“擦粉太郎”。成语“傅面何郎”就是指他。邓飏是东汉初年名将邓禹的后代，还有李胜、毕轨、丁谧等人都是官僚世家的公子哥儿，当时有人称他们为“浮华友”。曹爽是“浮华友”的首领，他的生活骄奢淫逸，竟然把魏明帝时候的宫女收在自己府中当乐妓，这帮“浮华友”哪是司马懿的对手呢？
曹爽联合一些大臣，给司马懿来个“明升实降”，让他去做“太傅”（即皇帝的老师）。名义上是够尊贵的，但太尉的军权却没有了。司马懿也来个“以退为进”，他告病在家休养，但让大儿子司马师担任中护军，紧紧抓住部分军权不放。
有一次，曹爽的亲信李胜，当了荆州刺史，曹爽就叫他以辞别为由，到司马懿家里去看看他的“病情”究竟如何？
司马懿知道曹爽派来了密探，就故意装出重病的样子，披散头发，捂着被，坐在床上。李胜来到床前，问病问痛，并进行赴任前辞别。司马懿语无伦次，前言不搭后语，一会儿又欲言而止，手指胸口，吭吭喘气，侍从的婢女赶紧过来给他捶背喂水，结果一碗汤水全浇在脸上身上，半晌他才吐出了几句“肺腑之言”：“我病势沉重，恐怕不久于人世，留下两个儿子，望多指教！”
司马懿的“病”装得太像了，李胜信以为真，回去向曹爽作了详细的报告，说：“太傅只剩一口气了，您就不用担心了。”
转眼到了新年，曹芳到城外高平皇陵祭祖，曹爽和他兄弟曹羲及亲信大臣都去了，司马懿病得“只剩下一口气”，当然没有去。
哪知曹爽一出洛阳，太傅司马懿的病全没有了，他全副武装，精神抖擞，率领兵马，占领了城门和兵库，并且假传皇太后的诏令，撤销曹爽大将军职务。
曹爽知道司马懿发动政变，有人建议他挟持皇帝去许都，还可以与司马懿作一较量。但他只知享受，害怕吃打仗的苦头，所以答应交出兵权，跟着皇帝回到洛阳。不久，他就被司马懿处以灭族的刑罚，连他的“浮华友”何晏、邓飏等也被杀害了。这就是历史上的“高平陵事件”。
过了两年，司马懿死了，由他的儿子司马师、司马昭相继执政，司马师废掉了曹芳，拥立曹丕的一个孙子曹髦主政（称高贵乡公）。司马昭更是野心勃勃，逼着曹髦封他为晋公，他想干什么就干什么，大杀反对他的曹氏宗室和无辜臣民，根本不把曹髦放在眼里，篡权的野心毕露。当时民间纷纷传说黄龙在宁陵县的井中出现，这个传说是借黄龙在井中，比喻皇帝受到奸臣的围困，揭露司马昭的篡权野心。
曹髦对司马昭非常不满，他有感于井中出现黄龙的民间传说，提笔写了一首《潜龙诗》，诗的大意是：可怜的黄龙被困井中，不能到大海里自由翻腾，泥鳅鳝鱼也敢来欺悔，在黄龙面前逞能，可怜的黄龙呀！我眼前的处境和你相同。
司马昭知道后大动肝火，居然带剑上殿大声责问曹髦，曹髦无言以答。曹髦回到后宫，找来三位亲信大臣，他说：“司马昭之心，路人皆知，我不能等着他来废掉我，现在我要同你们一起去讨伐他。”三个大臣劝阻他不要闯祸，但曹髦决心已定，有两个大臣怕祸及自己，偷着去向司马昭报信。
二十岁的曹髦带了几百个侍卫要去讨伐司马昭，被司马昭指使凶手成济杀了。司马昭杀了人，还要追查凶手，把成济一家人都杀了灭口。
这样处置，朝廷内外仍旧议论纷纷。司马昭为了堵住众人口，以太后的名义，下诏书诉说曹髦的许多罪状，把他废为平民，既然不是皇帝，死了一个平民就不值得再继续追究了。
司马昭除掉了曹髦，在曹操的后代中找了一个十五岁的曹奂接替皇位，这就是魏元帝。不久以后，在世家大族的拥护下，司马懿的孙子司马炎最终代魏称帝，建立晋朝，司马懿本人也被尊为宣帝。
