蜀将杨仪、魏延在撤军后争权，杨仪杀死魏延。司马懿想乘机攻蜀，明帝未准，作罢。
青龙三年（235年），司马懿升任太尉，累增封邑。蜀将马岱入境侵扰，司马懿派牛金迎击，斩蜀军千余人。武都氐王苻双和强端率领其属下六千余人来降[21]。
平定辽东东汉末年军阀混战时，公孙度据有辽东。这个割据势力对曹魏一直时叛时降，保持着半独立的地位。公孙渊继为辽东太守后，对魏更加不逊。曹叡震怒，派荆州刺史毋丘检出任幽州刺史，时辽水大涨，毋丘检不利而还。毋丘检讨伐受阻，使公孙渊更加得意。景初元年（237年），原魏辽东太守公孙渊背叛魏国，自立为燕王，置列百官，定都襄平。[22]渊遣使南通孙权，封拜边民，诱呼鲜卑，侵扰北方。[23]于是，景初二年（238年）正月，魏明帝召回司马懿，命他率兵讨伐。明帝问他估计公孙渊有什么对策，司马懿说：“弃城预走，上计也。据辽水以距大军，次计也。坐守襄平，此成擒耳。”明帝又问：“公孙渊会采用哪种？”司马懿回答：“只有聪明人能正确估量彼此实力。预先弃城，不是公孙渊所能做到的。他定会认为我们这次孤军远征不能持久，先在辽水抗拒，再退守襄平，这是中计和下计”。明帝问：“往还几时？”司马懿说：“往百日，还百日，攻百日，以六十日为休息，一年足矣。”
时朝廷大修宫室，加上军用物资，百姓饥弊。司马懿出征前劝明帝说：自河以北，百姓困穷，外内有役，势不并兴，宜假绝内务，以救时急。
临行时亲友相送，司马懿感慨作歌：「天地开辟，日月重光。遭遇际会，毕力遐方。将扫群秽，还过故乡。肃清万里，总齐八荒。告成归老，待罪舞阳。」[25]正月，司马懿率牛金、胡遵等步骑四万，从京师出发，经孤竹，越碣石，六月，进至辽水。公孙渊果然急令大将军卑衍、杨祚等人率步骑数万，依辽水围堑20余里，坚壁高垒，阻击魏军。
司马懿采用声东击西之计，先在南线多张旗帜，佯攻围堑，吸引敌军主力，而以主力隐蔽渡过辽水，*进敌军的襄平本营，部将不解问其原因。司马懿说：“敌人坚营高垒，就是想让我们兵疲粮尽，若攻城，正中其计。古人曰，敌虽高垒，不得不与我战者，攻其所必救也。现在他们大军在此，老巢却空。我直指襄平，敌军必惧，惧而求战，破之必矣”。接着整顿阵列前进，敌军果然出来截击。司马懿对诸将说：“我之所以不攻其营，正是要等现在的局面”。于是指挥魏军痛击，三战皆捷，遂乘胜进围襄平。
当初公孙渊闻魏军来攻，求救于孙权，孙权也出兵为其声援，并给公孙渊写信：“司马懿善用兵所向无前，深为弟忧也。”[26]适逢连降大雨，辽水暴涨，平地数尺，魏军恐惧，诸将思欲迁营。司马懿下令有敢言迁营者斩，都督令史张静违令被斩，军心始安。公孙渊军乘雨出城，打柴牧马，安然自若。魏将领请求出击，司马懿不允。司马陈圭曰问司马懿：“当年攻上庸，八路并进，昼夜不停，故能在一旬半时间里，攻下坚城，杀了孟达。这次远道而来，为什么行动却更加缓慢？”
司马懿说：“当年孟达军队少而粮食能支持一年，我们的兵是孟达的四倍粮食却不足一月，以一月粮的军队对付有一年粮的军队，怎能不速战速决？四打一，即使一半人伤亡，也是可行，当时不计死伤，正是要为有限的粮草争取时间。而今敌兵多我军少，敌粮少我粮多，又遇大雨，想速战也不可能。从出兵开始，我就不担心敌人来进攻，而是怕他们会逃跑。如今敌军粮草将尽，我军包围尚未合拢，若现在抢掠牛马，会*他们逃走。兵者诡道，善因事变。他们现在凭借人多和大水，虽然饥困，也不肯就擒。这时候更当稳住对方，不能为得小利而把敌人吓跑”。
司马懿将计就计，故意示弱。朝廷听说雨大敌强，不少人请求召还司马懿。明帝却说：“司马懿临危制变，擒渊可计日待也”。
司马懿藏兵洞月余，雨停，水渐退去。魏军完成对襄平的包围，昼夜强攻。城内粮尽，死者甚多，其将杨祚等降。时偶有流星自城西南向东北划过，坠落在梁水附近，城中愈发震恐。公孙渊也很惊惧，八月，派相国王建、御史大夫柳甫请解围而缚。司马懿斩杀使者，发布檄文严责：“昔楚郑列国，而郑伯犹肉袒牵羊而迎之。孤为王人，位则上公，而建等欲孤解围退舍，岂楚郑之谓邪！二人老耄，必传言失旨，已相为斩之。若意有未已，可更遣年少有明决者来”。
公孙渊又派侍中卫演来请求定日期送人质。司马懿对他说：“作战的大要有五：能战当战，不能战当守，不能守当走，余二事惟有降与死耳。公孙渊若不肯自缚请罪，就是决心寻死了，不须送什么人质。”
公孙渊欲从城南突围，司马懿纵兵击破其军，公孙渊战死在梁水边上。入城后，司马懿屠十五岁以上男子七千多人，收集尸体，筑造京观。把公孙渊所任公卿以下一律斩首，杀死将军毕盛等二千多人。收编百姓四万户。
司马懿释放了当年被公孙渊篡夺官位的公孙恭，又为被公孙渊迫害的纶直等人修了坟墓，表彰他们的后代。下令说：“古代讨伐一个国家，仅杀其中顽固凶恶的人而已。各位被公孙渊所连累的人，全部宽恕。中原人愿意返回故乡的，各随己愿。”[27]当时司马懿军中有的士兵衣单寒冷，请求发给短袄，司马懿不给，表示“襦者官物，人臣无私施也”。于是上奏朝廷，把一千多名六十岁以上的士兵解除兵役，送返回乡。在原定一年的期限内，胜利班师。明帝派使者到蓟去犒劳部队，增司马懿食昆阳县，前后共二县。
数十年来辽东问题终於彻底解决。
明帝托孤原本朝廷让司马懿便道往镇关中。但当到达白屋时，有诏书召他火速回京，三日之间，诏书五至。魏明帝手书说：“间侧息望到，到便直排阁入，视吾面”。据说，司马懿在襄平时，曾梦见明帝枕在他膝上，说：“视吾面。”他俯视，见明帝面有异色。
如今一见诏书此语，大惊，乘追锋车昼夜兼行，从白屋到京城，四百多里，一夜而至。至则径人嘉福殿内御床旁边，满眼流泪，指问疾病。明帝拉着他的手，目视太子齐王，说：“以后事相托。死乃复可忍，吾忍死待君，得相见，无所复恨矣”，《三国志.明帝纪》为“吾疾甚，以后事属君，君其与爽辅少子。吾得见君，无所恨”）当天，明帝去世。时为景初三年（239年）正月。
齐王曹芳年仅八岁，司马懿乃与大将军曹爽一起接受遗诏辅佐少主。齐王即位，司马懿任侍中、持节、都督中外诸军、录尚书事，和曹爽各统精兵三千人，共执朝政。
曹爽欲排挤司马懿，想让尚书奏事先通过自己，以便专权，向天子进言，改任司马懿为大司马。朝臣们认为以前大司马，有好多都死在任上，不吉，于是任命司马懿为没有实权的太傅，像萧何那样，入殿不趋，赞拜不名，剑履上殿。
退敌征吴正始二年（241年）四月，吴帝孙权分兵四路攻魏：卫将军全琮率军数万出淮南，威北将军诸葛恪攻六安，前将军朱然攻樊城，大将军诸葛瑾攻祖中。
五月，吴将全琮入侵芍陂，朱然、孙伦围攻樊城，诸葛瑾、步骘侵掠柤中，司马懿自请出兵往讨。朝臣认为，敌兵远来攻坚，当待其自破，司马懿则说：“边城受敌而安坐庙堂，疆场骚动，众心疑惑，是社稷之大忧也”。
六月，司马懿统军增援，司马懿知南方暑热低湿，大军不宜持久在此，先派轻骑挑战，朱然不敢动。于是，便休养土卒。检选精锐，招募勇士，发布号令，摆出攻城的架势。吴军惊惧，连夜撤退。在三州口（荆、豫、扬三州），为魏军追及，吴军被歼万余人，船舰物资损失甚多。而进攻六安、柤中的吴军亦无功而还。
七月，增司马懿食郾、临颍，前后共四县，食邑万户，子弟十一人皆为列侯。
此前，吴国派诸葛恪屯驻宛城，边人深以为苦。司马懿要率兵攻之，议者以为诸葛恪占据坚城，广有粮谷，孤军远攻，救兵必至，那时进退失据，未见其便。司马懿却说：“贼之所长者水也，今攻其城，以观其变。若用其所长，弃城奔走，此为庙胜也。若敢固守，湖水冬浅，船不得行，势必弃水相救，由其所短，亦吾利也”（《晋书.宣帝纪》）。
正始四年（243年）九月，司马懿率军出征。军队到达舒城，诸葛恪果然焚烧积聚，弃城而走。司马懿又巡视淮北屯田区，提拔农家子弟邓艾主持屯田。
诛灭曹爽起因正始五年（244年）春，大将军曹爽欲立威名，不听太傅司马懿劝止，力主伐蜀，魏帝从之。结果为蜀前监军、镇北大将军王平所败，魏军被阻于兴势，后方也军粮供应不上，牛马骡驴大量死亡，蜀涪县及费祎援军亦相继到达。曹爽见不能胜，被迫听从司马懿的劝告，于五月率大军退还。遭蜀军截击，魏军苦战，始得退回，失散、伤亡甚众。
正始六年（245年）秋八月，曹爽废置中垒、中坚营，把两营兵众统交他的弟弟曹羲率领，司马懿援引先帝旧例制止，曹爽不听。
正始七年（246年）春正月，吴兵入侵柤中，有万余家百姓为避吴兵，北渡沔水，司马懿认为沔南离敌太近，倘若百姓奔还，还会引来吴兵，应该让他们暂留北方。曹爽不同意，说：“今不能修守沔南而留百姓，非长策也。”司马懿则说：“不然。凡物致之安地则安。危地则危。故兵书曰‘成败，形也；安危，势也’。形势，御众之耍，不可以不审。设令贼以二万人断沔水，三万人与沔南诸军相持，万人陆梁柤中，将何以救之？”，曹爽不从，驱令还南。吴兵果然击破柤中，所失百姓，数以万计。
曹爽族的行为不但违背了顾命大臣应有的本份，也使魏国国力衰退，不少有志之士颇感不安，希望司马太傅主持公道。并州刺史孙礼就去和司马懿抱怨，司马懿安慰他说：“且止，忍不可忍”（《三国志.孙礼传》）。
装病正始八年（247年），曹爽用心腹何晏、邓扬、丁谧之谋，把太后迁到永宁宫，一时曹爽兄弟“专擅朝政，兄弟并掌禁兵，多树亲党，屡改制度”，时人为之谣曰：“何、邓、丁，乱京城”。五月，司马懿伪装生病，不问政事。
正始年（248年）三月，黄门张当把内庭才人石英等十一人送给曹爽，曹爽、何晏乘机与张当勾结，谋危社稷。
曹爽及其同党也担心是司马懿装病。同年冬，河南尹李胜要到荆州任刺史，行前去拜望他。
司马懿假装病重，让两个侍婢扶持自己，要拿衣服，拿不稳，掉在地上，还指着嘴说渴。侍婢献上粥来，他用口去接，汤流满襟。李胜说：“众情谓明公旧风发动，何意尊体乃尔！”司马懿故意上气不接下气地说：“年老沉疾，死在旦夕。君当屈并州，并州近胡，好善为之，恐不复相见，如何！”李胜说：“当还忝本州（李胜是荆州人），非并州也。”司马懿故意错乱其辞：“君方到并州，努力自爱！”李胜又说：“当忝荆州。”司马懿说：“懿年老，意荒忽，不解君言。今还为本州，盛德壮烈，好建功勋。今当与君别，自顾力转微，后更不会，因欲自力设薄主人，生死共别。令师、昭兄弟结君为友，不可相舍去，副懿区区之心。”因流涕哽咽。胜亦长叹，答曰：“辄当承教，须待敕命。”李胜回来对曹爽说：“太傅患不可复济，令人怆然。”（《三国志》裴注《魏末传》）曹爽等从此便不再防备司马懿。
司马懿表面装病，实际上也在暗中布置，准备消灭曹爽势力。
政变嘉平元年（249年）春正月，魏帝曹芳离开洛阳去祭扫魏明帝的坟墓高平陵，大将军曹爽、中领军曹羲、武卫将军曹训均从行司马懿乘机上奏永宁太后，请废曹爽兄弟。当时，司马师为中护军，率兵屯司马门，控制京都。司马懿列阵，经过曹爽门前，曹爽部将严世登楼，引弩欲射，孙谦拉着他的胳膊阻止他说：“事未可知。”
大司农桓范出城去投曹爽，蒋济担心道：“智囊往矣。”司马懿则说：“范则智矣，驽马恋栈豆，爽必不能用也。”司马懿召司徒高柔假节行大将军事，管领曹爽军营，对他说：“君为周勃矣。”召太仆王观行中领军事，统摄曹羲军营[28]。（《三国志.曹爽传》[29]）司马懿自率太尉蒋济等勒兵出迎天子，驻扎在洛水浮桥。派人上奏章给皇帝陈述曹爽之罪[30]。
曹爽扣住奏章，把皇帝留在伊水之南，砍伐树木建成鹿角，征发屯兵数千人以自守。桓范劝曹爽挟持皇帝到许昌去，发文书征调天下兵马勤王。曹爽果然疑惑，不从其计。反而夜遣侍中许允、尚书陈泰去见司马懿，探听动静。司马懿乘机数说曹爽的过失，让他早来服罪。接着又派曹爽的亲信殿中校尉尹大目去对他说，朝廷只是免他的官职，并以洛水为誓。曹爽欲信其言，桓范等人从晚上一直劝到第二天黎明。结果，曹爽投刀于地，说：“司马公正当欲夺吾权耳。吾得以侯还第，不失为富家翁。”桓范哭说：“曹子丹佳人，生汝兄弟，犊耳！何图今日坐汝等族灭矣”（《三国志》裴注《魏氏春秋》）于是，曹爽请免职，随皇帝回京。曹爽兄弟一回府，即被司马懿派兵包围。在曹爽府宅四角修高楼，派人在楼上密切监视着。曹爽拿弹弓到后园中，楼上人就喊：“故大将军东南行！”曹爽愁闷，不知所措。
不久，司马懿以谋反的罪名，杀曹爽及其党羽何晏、丁谧、邓扬、毕轨、李胜、桓范等，并灭三族；但对曹爽门下的二流人物，司马懿特别宽大处理，如鲁芝，辛敞，王沈等人，后来还有人成为晋朝新贵。
同年二月，皇帝任命司马懿为丞相，增繁昌、鄢陵、新汲、父城为其封邑，前后其计八县，食邑二万户，特许奏事不名。司马懿固辞丞相之职不受。十二月，诏命加九锡之礼，朝会不拜，又固辞九锡。[31]嘉平二年（250年）春，魏帝命司马懿在洛阳立庙。司马懿久病，不任朝请，每遇大事，天子亲自到他府中去征询意见。
淮南平叛王凌是司徒王允的侄子，早年和司马懿的哥哥司马朗、贾逵等人是好友，曹叡死时，为征东将军假节督都扬州军事，曹爽对他积极拢络，因破吴有功，把他提升为车骑将军，开府仪同三司。后又升为司空。司马懿诛曹爽，王凌心生不满，与侄子令狐愚谋立楚王曹彪。未发，令狐愚死。
嘉平三年（251年）春正月，王凌借口吴人塞涂水，请求出兵征讨。司马懿知其阴谋，不令兴兵。并于四月亲率中军讨伐王凌。司马懿故计重施，先下赦书赦免王凌之罪，写信安慰他，但不久大军突至。王凌自知势穷，便独自乘船迎接，派属官王或请罪，送上印绶、节钺。
司马懿军到武丘，王凌在水边自缚等待，说：“卿直以折简召我，我当敢不至邪？而乃引军来乎！”司马懿说：“以卿非肯逐折简者故也。”说罢，命将领率六百人马想把王凌解送洛阳。王凌向司马懿要棺材上的钉子，想试探一下司马懿想不想杀自己，司马懿命手下人找来送给他。
五月，王凌到项城，绝望，服毒而死。
司马懿进军寿春，参与王凌之谋的人都出来自首。司马懿推知其事，凡牵连在内的一律诛灭三族。派人挖开王凌、令狐愚的坟墓，在附近的市上，剖棺暴尸三天，然后，烧掉他们的印绶、官服埋于土中。司马懿把楚王曹彪也杀了。并且把魏之王公全部拘捕，放置邺城，命有司监察，不准他们互相交结往来。
魏帝策命司马懿为相国，封安平郡公，孙及兄子各一人为列侯，前后食邑五万户，封侯者十九人。司马懿固辞相国、郡公之位不受。
去世辞封嘉平三年（251年）八月戊寅，司马懿去世于京师，享年七十三岁。当年九月庚申，司马懿被葬于河阴首阳山，谥文贞，追封相国、郡公，司马孚秉承他的遗愿，辞让郡公和殊礼，遗命简葬，作顾命三篇，敛以时服，不树不坟，不设明器。谥号后改为文宣（《晋书.宣帝纪》）。但《三国志》[32]和《晋书.文帝纪》[33]均记载谥号为“宣文”，固多以后者为准。同年十一月，有司奏请将各位已故功臣的灵位置于太祖庙中，以配享祭祀，排位以生前担任的官职大小为序。太傅司马懿因位高爵显，列为第一。[34]司马昭封晋王后，追封司马懿为宣王；265年，司马昭之子晋武帝司马炎受魏禅，给司马懿上尊号为宣皇帝，称其陵墓为高原，庙号高祖。[35]编辑本段个人贡献除军事方面外，司马懿在魏明帝大修宫室之际他也加以劝谏，曹叡死後他奏请罢修宫室，雕玩物之人力，节用务农，使天下欣赖[36]。
识拔人才上，司马懿从寒门中提拔了邓艾、王基、周秦等人才，如虞预所说，经略之才可谓远矣[37]。
经济上，司马懿在上邽兴屯田，京兆、天水、安南兴冶铁，穿成国渠，筑临晋坡使雍凉足足食，并有余力供给关中不足[38]。後来又大兴屯田於淮北，穿广槽渠，这些作为不但厚植了国力，也为日後统一华夏殿定基础。
司马懿在屯田，特别是军屯事业上有很大的建树。约在建安二十三、四年，司马懿由转为丞相军司马后，向曹*建议：“昔箕子陈谋，以食为首。今天下不耕者盖二十余万，非经国远筹也。虽戎甲未卷，自宜且耕且守。”曹*行之。魏国一时“务农积谷，国用丰赡。”（《晋书.宣帝纪》）曹*采纳这个建议仅两年就驾崩了，在这样短的时间内要使军屯走向正规，大规模的铺开推行当然是困难的。管理军屯的主要官吏——度支中郎将、度支校尉、度支都尉等官员，都是在黄初年间（220—226年）设置的，说明军屯走上正规是在曹丕时期。
曹魏军屯推行很广泛，但主要基地是设置在边境驻军地区，特别是在和吴、蜀的军事对立地带。曹魏和吴、蜀对立地带的两大军屯基地的开创，都和司马懿有关上邽军屯曹魏和蜀汉的邻近地区，如长安、槐里、陈仓、上邽等地，都设置有民屯和军屯组织。其中，上邦的军屯最着名。这个军屯基地是在太和四年（230）由司马懿上表倡议建立的，《晋书.食货志》称：“宣帝表徙冀州农夫五千人佃上邽，兴京兆、天水、南安盐池，以益军实。”主持具体事宜的是那时的度支尚书、司马懿的三弟司马孚。《晋书.安平献王孚传》：“关中连遭贼寇，谷帛不足，遣冀州农丁五千屯于上邽，秋冬习战阵，春夏修田桑。由是关中军国有余，待贼有备矣。”由此可见，上邦军屯是在司马懿、司马孚兄弟的共同筹划下开创的。
太和五年（231），诸葛亮进攻天水。这时上邽军屯上的小麦已经生长出来，有人主张“自芟上邽生麦以夺贼食”，魏明帝不从，“前后遣兵增宣王军，又敕使护麦”。司马懿与诸葛亮相持，多亏以上邽军屯的小麦作军粮，才取得胜利。直至正元二年（255），安西将军邓艾又在上邽“为区种之法，手执耒耜，率先将士”（《晋书.段灼传》），进行屯垦，都说明上邽军屯的重要。司马懿在太和五年屯长安，都督雍、凉二州诸军事，开始主持对蜀的战争。为了增强实力，很重视对关中屯田基地的建设。
兴修水利青龙元年（233），司马懿组织兴修水利，“开成国渠，自陈仓至槐里筑临晋陂，引汧洛溉舄卤之地三千余顷，”（《晋书.宣帝纪》）收到了“国以充实”（《晋书.食货志》）的效果。青龙三年，关东饥馑，司马懿调运五百万斛粟输京师洛阳，以资救济。可见他在关中储积有大量粮食。
淮南淮北曹魏和东吴邻近地带的屯田，主要是在淮河南北。曹*时曾“开募屯田于淮南”（《三国志.魏书.仓慈传》），但仅是民屯。正始二年（241），司马懿主持对吴作战时，始与邓艾筹划在淮南淮北创建军屯。第二年，司马懿“奏穿广漕渠，引河入汴，溉东南诸陂，始大佃于淮北”。第三年，司马懿又在这一地区“大兴屯守，广开淮阳、百尺二渠，又修诸陂于颍之南北，万余顷。自是淮北仓庾相望，寿阳至于京师，农官屯兵连属焉。”（《晋书.宣帝纪》）《晋书.食货志》记载司马懿、邓艾创建的淮南淮北屯田说：“今淮北二万人、淮南三万人分休，且佃且守。水丰，常收三倍于西，岁完五百万斛以为军资。六、七年间，可积三千万斛于淮土，此则十万之众五年食也。……逆北临淮水，自锺离而南、横石以西，尽泚水四百余里，五里置一营，营六十人，且佃且守。兼修广淮阳、百尺二渠，上引河流，下通淮颍，大治诸陂于颍南颍北。穿渠三百余里，溉田二万顷，淮南、淮北皆相连接。自寿春到京师，农官兵田，鸡犬之声，阡陌相属”。司马懿和邓艾所进行的大规模的屯垦，对促进北方经济的恢复和发展，特别是对增加曹魏的财力，支持与东吴的战争，起了重要的作用。