从内部看，他的祖父、父亲为了给司马氏家族夺取帝位铺平道路，曾经对曹爽为首的三族以及附属势力进行了残酷的屠杀，这件事所造成的阴影至今仍然横亘在人们的心中。从外部看，蜀汉虽平，孙吴仍在，虽说此时的东吴已不足以与晋抗衡，但毕竟也是一个不小的威胁。要巩固政权，进而完成吞并东吴、统一中国的大业，就首先要强固统治集团本身的凝聚力，而要达到这个目的，就必须采取怀柔政策。司马炎在即位的第一年，即下诏让已成为陈留王的魏帝载天子旌旗，行魏正朔，郊祀天地礼乐制度皆如魏旧，上书不称臣。同时又赐安乐公刘禅子弟一人为驸马都尉，第二年又解除了对汉室的禁锢。这不但缓和了朝廷内患———尤其是消除了已成为司马氏家族统治对象的曹氏家族心理上的恐惧———而且还安定了蜀汉人心，进而为赢得吴人的好感。
为了尽早地使国家从动乱不安的环境中摆脱出来，为统一奠定牢固的基础，无为与宽松政策成了西晋之初的立国精神。这种立国精神在国家的各种领域中充分地体现出来。公元268年，司马炎诏书中明确指出：“为永葆我大晋的江山，现以无为之法作为统领万国的核心。”同年，又向郡国颁下5条诏书：一曰正身，二曰勤百姓，三曰抚孤寡，四曰敦本息末，五曰去人事。当年，曹魏王朝的奠基者曹*继东汉的动乱政治之后，为了安定人心，恢复国力，曾实行了比较宽松开放、节俭求实的治国方略。但到了曹叡统治后期，政治渐趋严厉，社会风气亦**，曹*当年的风范已不复存在。皇帝为了满足自己的私欲，往往不断把强大的物质重负转移到百姓的身上，而长期的战乱更使百姓在惨淡的生计之外，还在心理上增添了一种恐惧与疲惫之感。在这种情况下，司马炎反其道而行之，提出无为而治的强国方略是最适合不过的。
承袭曹魏，革新政治晋武帝在治国措施上的，进行了系列改革。晋武帝改革的政治制度上承曹魏，别有创新，有些为东晋南北朝所奉行，深刻地影响了西晋一代及其以后的政治。
1.三省制度的初步确立西晋代魏，同曹魏代汉一样，以王朝禅代的方式和平地进行，曹魏时的显贵大都成为新朝的开国元勋。司马炎称帝后，模仿古代名称，杂采近代制度，同时设置太宰、太傅、太保、太尉、司徒、司空、大司马、大将军等名号，号称八公，以宠待勋臣贵戚。其中太尉、司徒、司空虽沿汉魏仍有宰相之称，但除了司徒还拥有掌管州郡中正对士人乡品的品第职权外，与其他五公一样，几乎都是尊宠虚衔。由于曹爽及司马氏父子先后*纵曹魏政权时，都利用尚书机构发号施令，使汉魏以来权力日益上升的尚书机构在西晋时取得了朝廷大政的决策权。尚书台（省）以尚书令、尚书仆射主掌，西晋初尚书台下置吏部、三公、客曹、驾部、度支、屯田六位尚书，后又改置为吏部、殿中、五兵、田曹、度支、左民六尚书，六尚书分掌三十五曹，各曹以郎中负具体责任。尚书台长官尚书令、尚书仆射无论在名义上还是在职权上，都成为协助皇帝处理政事的真正宰相，有时皇帝还特置录尚书一职以委任权宠，全极处理尚书台事务，太常等九卿及地方官员，均奉尚书台命令行事。
曹魏设置的中书省长官中书监、中书令不仅掌管诏令、文书的撰定，而且参议政事，地位、声望都较曹魏时期大为提高。门下省长官侍中、散骑常侍等既保持其在皇帝身边为皇帝提供政策咨询的权力，又获得审查尚书机构上行下达的文案的职权，权力增重，这样，三省基本上取代汉代的三公九卿，成为中央皇帝之下的最高权力机构[6]。
2.分封制的演变分封制是西晋政治制度中一个重要内容。泰始元年（公元265年）十二月，晋武帝司马炎刚即帝位，又改革分封制度。将其祖司马懿以下宗室子弟均封为王，以郡为国，邑二万户为大国，置上、中、下三军；兵五千人；邑万户为次国，置上军、下军，兵三千人；五千户为小国，兵千五百人。司马炎叔父司马干、司马伦、司马亮分别封为平原王、琅邪王、扶风王，弟司马攸封为齐王，均为大国，司马炎叔祖安平郡王司马孚则超越制度，食邑户数多达4万户。司马炎的弟弟、堂兄弟、伯父、叔父、堂伯父、堂叔父同时封王者达27人。司马氏创业的勋臣贵戚均加封进爵，为公为侯，封邑达1万户者为大国，5000户者为次国，不满5000户者为下国，大司马石苞、车骑将军陈骞、尚书令裴秀、侍中荀勖、太傅郑冲、太保王祥、太尉何曾、骠骑将军王沈、司空荀彧、镇北大将军卫瓘均封为公。
泰始元年分封以后，因宗室诸王均留居京城洛阳，未到封国，制度规定的王**队仍未建立。咸宁三年（公元277年），司马炎因齐王司马攸声望很高，担心身后将出现皇位继承人之争，想让他到自己的封国去，再次制定分封食邑制度。司马宗室诸王封国仍分大国、次国、下国三等，而下国亦制所近县益满万户，三等王国皆置中尉统领王**队，大国诸王除嫡长子世代继承王爵外，其他儿子均各以土推恩受封为公；功臣封公者，封国制度如小国王，亦以中尉领兵，郡侯封国内也可以置1100人的军队。于是诸王多回到自己的封国中，其因职未归封国者，大国置守土100人，次国80人，下国60人。晋武帝曾就这一制度询问中书监荀勖的意见，荀勖认为：诸王当时大多担任各地都督，若让他们各归封国，将使西晋控制地方的力量削弱；而且分割郡县，充实封国，将使被移徙的百姓怨声载道；王国置军，也会削弱国家军队的数量。晋武帝根据荀勖的意见，对都督制作了一些调整，使之与分封制更紧密地结合起来。
晋武帝平定江南后，为了将军权收归中央，下令罢减州郡所领军队，少数边郡虽仍有军队，也被大大削减，诸王**队成为地方主要的武装。太康十年（公元289年），淮南相刘颂又上书，认为诸王封国方圆千里，但军力不足，法同郡县，无成国之制，宜令国容少而军容多，增加王**队数量。
西晋分封制度并未实现晋武帝巩固司马氏政权的初衷，封王们结纳封国内的士族人士，引用在西晋士族制度确立以后难以仕进的寒族士人，形成一个个与中央政权相背离的政治集团，并凭借其王**队争取自己的利益。晋末八王之乱中，长沙王司马乂、东海王司马越均凭其国兵起事，参与最高权力的争逐。
3.都督制的定型西晋沿袭汉魏，地方实行州、郡、县三级行政制度。全国统一后，共分19州、173郡，州置刺史，属官有别驾、治中、从事等；郡以太守主事，若为诸王封国所在，则郡称为国，太守则改称内史，属官有主簿、记室、录事等；大县置令、小县置长，下有主簿、录事史等属员。
4.士族门阀制度的形成三国魏初，魏文帝曹丕为了抑制浮华朋党之弊，采纳陈群的意见，郡置中正，根据当地士人的品行、才干及家世评定为九品，作为吏部授人任官的依据，由中央官员兼任的中正逐渐影响到吏部的用人权。司马懿执掌魏政后，又奏置州大中正，中正进一步*纵了士人的入仕途径。到西晋时，九品中的二品（一品从未有人，形同虚设）逐渐取得了作官的优先权，特别受重视，被称为上品，其余各品则被看作是寒士下品。由于中正之职实际掌握在魏晋禅代之际荣宠不绝的官僚贵族手中，士人品评中品行、才干两项已不被重视，唯计门资定品，家世官爵即所谓门第、阀阅成为品评的主要依据，上品因此基本上由朝廷显宦子弟把持。西晋初年刘毅上奏陈述九品有八损说：今之中正，不精才实，务依党利，不均称尺，务随爱憎，随世兴衰，不顾才实，衰则削下，兴则扶上，以致上品无寒门，下品无士族。
与刘毅同时的段灼也说：今台阁选举，涂塞耳目，九品访人，唯问中正。
故据上品者，非公侯之子孙，即当途之昆弟也。得上品的官僚贵族子弟极易步入仕途，而且升迁迅速，他们一入仕，即可担任尚书郎、秘书郎、着作郎、散骑侍郎、黄门侍郎等职闲位重的官职，这些官职也由此被称为清官、清职.晋武帝初年虽多次下诏征用寒素，试图加强皇权对官员选拔的干预，改变寒门下品升进无路的状况，但终难扭转现实。如诗人左思在其《咏史诗》第二首中感叹的那样：郁郁涧底松，离离山上苗，以彼径寸茎，荫此百尺条。世胄蹑高位，英俊沉下僚，地势使之然，由来非一朝。太康元年（公元280年），晋武帝在灭吴之后颁定的户调之式中，不仅允许官员据官品占有土地和人口，而且规定士人子孙亦如之，给予在政治上已享有实际权利的士人以经济上占有人口并免除徭役的特权。
这样，汉魏以来政治经济势力不断上升的世家大族终于形成为封建地主阶级中一个特权阶层，士族门阀制度因而确立，门阀士族遂成为东晋南朝政治中一种最为活跃的政治势力[7]。
颁布法律，依法治国《泰始律》是晋武帝司马炎在泰始三年（267年）完成并于次年颁布实施的，但在他的父亲司马昭辅佐魏政期间就开始了。当时司马昭命贾充、羊祜、杜预等人参考汉律、魏律开始编纂，到司马炎建立西晋后不久完成。因颁行于泰始年间，故又称《泰始律》。张斐、杜预为《晋律》作注解，经晋武帝批准“诏颁天下”，注与律文具有同等法律效力，因此该律又名《张杜律》。
《泰始律》是中国封建社会中第一部儒家化的法典，其主要特点是“峻礼教之防，准五服以制罪”。在损益汉《九章律》和魏《新律》的基础上，《泰始律》为20篇，计为刑名、法例、盗律、贼律、诈伪、请赇、告劾、捕律、系讯、断狱、杂律、户律、擅兴、毁亡、卫宫、水火、厩律、关市、违制与诸侯律，共620条，27657个字。《泰始律》比前代律令的内容有所放宽。它“减枭、斩、族诛、从坐之条”，对女子的判处也有从轻从宽的用意。《泰始律》的这些变化，使其在实行中能够起到缓和阶级矛盾和统治阶级内部矛盾的作用，有利于巩固司马氏的江山。《晋书.刑法志》称其“蠲其苛秽，存其清约，事从中典，归于益时”。
《泰始律》在中国法律发展史上有着很重要的地位，南北朝乃至隋唐的法律无不打上它的烙印。
《泰始律》以宽简着称，是中国古代立法史上由繁入简的里程碑。晋律还是三国两晋南北朝时期唯一通行于全国的法律，并被东晋和南朝所沿用，也是这一时期承用时间最长久的一部法典。
大封宗室，罢州郡兵司马炎鉴于魏宗室衰微，帝室孤弱，终致灭亡之教训乃大封皇族为藩王，以对抗士族。始则封王不就国，官于京师以辅皇室，继则分遣诸王就国，都督诸军事，后又出使镇要害地。此举目的，是为对抗士族中野心家。但“八王之乱”证明，这种政策反而使这些手握重兵的诸王中涌现了许多野心家。
西晋之所以重任宗室，实际上与其政权的结构有关。晋是以皇室司马氏为首门阀贵族联合统治，皇室作为一个家族驾于其它家族之上，皇帝是这个第一家族的代表，因而其家族成员有资格也有必要取得更大权势，以保持其优越地位。
全国统一后，司马炎下诏：“悉去州郡兵，大郡置武吏百人，小郡五十人”，即规定：（1）诸州无事者罢其兵。
（2）刺史只作为监司，罢将军名号，不领兵，也不兼领兵的校尉官。
（3）实行军民分治，都督校尉治军，刺史太宋治民。
罢州郡兵，一方面可使地方官专心民事，另一是扩大承担赋役的课丁。兵役是东汉末年以后农民最沉重的负担，免除这负担，对恢复生产意义重大，但也因悉去州郡兵，连治安都没办法维持，因此到公元301年，天下大乱时，无力控制局面。