话说晋文帝司马昭下葬后，由于当时不拘礼节，群臣便建议晋武帝司马炎守孝三天后即可脱掉丧服——可见当时儒家学说的没落。不过最终，司马炎为了表达对父亲去世的哀痛，还是坚持粗茶淡饭守孝了三年。
司马炎一直有着消灭吴国的志向，他重用蜀国降臣，下诏褒奖诸葛亮及其子孙，以此向吴国展示归降的好处。他还派遣大将羊祜（hù）镇守前线襄阳（湖北）与吴国对垒，不断寻找进攻的机会。羊祜在当地实行“怀柔政策”，对吴国人开诚布公，真心相待，收获了不少人心。
羊祜虽然为官清廉，却也是个很懂享受生活的人，喜爱游山玩水，饮酒赋诗。每到阳光明媚之际，他定会出外踏青。有一次，他在襄阳城南的岘（xiàn）山游乐时，突然对着左右好友痛哭起来，叹息道：“自从有了天地便有此山，从古至今那么多如同你我一样的贤达名士，都曾登临此山眺望游乐，但现在却都淹没无闻，就连尸骨都找不到，真是令人悲伤。不知我死后魂魄是否还能登上此山。”
羊祜的话很好地展现出了我们中华文人独有的浪漫。后人为了纪念这段奇闻，便将岘山改名为“羊祜山”，并在山上立了一座“堕泪碑”。后来唐代诗人孟浩然还特意写了一首《与诸子登岘山》的诗文，其中那两句“人事有代谢，往来成古今”，“羊公碑尚在，读罢泪沾巾”也表达了对羊祜极大的尊敬。
眼见晋国袭来，吴国也是戒备森严，特意派出名将之后陆抗前来对阵。陆抗的父亲——陆逊可是位牛人，初出茅庐之际便率兵击败了年过六十，已经打了一辈子仗的刘备。而陆抗也是一位足智多谋，才能卓越的将领，和父亲陆逊一样是吴国的中流砥柱，在史书中被称为“吴国最后的名将”，和羊祜势均力敌。
不久后，有位吴国将领叛变投降了晋国，并将所驻守的西陵城（湖北宜昌市）献出，晋国特命羊祜出兵接应。陆抗听说后，立刻下令在西陵附近筑起坚固外围，将叛军牢牢围困。
手下将领全都反对道：“如今应当趁晋军未到之际，集合三军精锐尽速击败叛军，围城只是浪费时间。”
陆抗说：“西陵城易守难攻，粮草又充裕，是无法马上攻克的。一旦我们攻不下来，等到晋国援军到来，就会腹背受敌。”为了使将领们心服，陆抗还任由他们进攻了一次，结果也正如他所料那样不利。
等到围城工事落成，羊祜的军队已经赶到了吴国的江陵城（湖北荆州市）开始猛攻，众将都建议陆抗前去援救，但陆抗还是坚持己见：“羊祜此举就是想牵制我们前往江陵。江陵城池稳固，无须担心，就算被敌人攻占也难以防御。但若西陵城失守，南边的外族蛮夷就会群起骚动，带来的灾祸将会不可估量！”
之后某天夜晚，陆抗军中有位士兵叛逃前往了晋国军营。
陆抗得知后，分析道：“此人是军中老兵，深知我方虚实。我们的外族部队一向不够精良，是薄弱环节，所以他必会引导晋国前去攻伐。”于是当夜便将外族部队全部调离，偷偷换成了战斗力强大的卫队。
第二天，那位叛徒果然带着晋军前往了外族部队的守卫之地。
只听陆抗一声令下，万箭齐发，大败了前来偷袭的晋军。
陆抗想要趁势穷追猛打，又担心引来晋军的困兽之斗。于是他下令全军敲响战鼓，只追不攻，等到敌人全都吓破了胆，开始丢盔弃甲逃命时，再派出轻装部队追杀。
最终吴军一路势如破竹，成功攻破了西陵城并杀死数名晋国大将，羊祜也因此战被降罪贬了职。
之后双方没有继续剑拔弩张。羊祜返回江陵后，继续施行“怀柔政策”，从来不搞偷袭，如果发现晋国将士抢夺了吴国的粮食财产就会勒令退还回去。有时，陆抗会给羊祜送来美酒，羊祜都会毫无芥蒂地一饮而尽。有时，陆抗患病向羊祜求药，羊祜就会命令手下调制好给送去，陆抗也会毫不怀疑地加以服用。
二人相亲相爱，使得两国边境和睦，这可气坏了吴国朝廷，多次下旨责问陆抗，然而他却不为所动。因为陆抗是聪明人，深知吴国远不是晋国对手，主动挑起战事只会自取灭亡。止戈罢兵，使晋国不至主动出击才是最好的方式。羊祜也是个聪明人，知道晋国已拥有天下的三分之二，对吴国有着压倒性优势，但由于刚刚历经灭蜀之战需要修整，再加上吴国拥有江河地利与名将陆抗，导致暂时无法突破。但即使拖延下去，最终胜利也还是晋国的，所以他又何必着急。
之后，羊祜秘密上奏司马炎，指出讨伐吴国必须借助上游蜀国的水路优势，并推荐了自己的参军王浚前往蜀地整治水军。
王浚才识过人，胸怀大志，但奢侈贪婪，羊祜的侄子一向反对重用他，但羊祜却坚持非常之时当用非常之人，理应“重才华，轻道德”，所以向朝廷推荐了他。
王浚抵达益州（四川）后，立刻将屯田的军队调去修造舟舰，还私下募集了一万多人帮忙。为防朝廷反对，他多次不经请示，专权行事，然而司马炎得知后仍给予了足够的包容和支持。不久，一座长百二十余步，能承载两千多人的巨大战舰就建成了，据说在上面甚至能策马奔驰。
修建大舰时散落的木屑很快遍布江面，然后顺流而下，被吴国太守看到，立刻上奏吴国国君道：“晋国肯定在蜀地大造船只，想要水陆齐发地进攻我们，应当赶紧加派军队防守要塞。”可惜此时吴国的国君孙皓是个比刘禅还昏庸的人，没有加以理会。
孙皓刚即位时勤政爱民，聪慧贤明，被认为拥有当年吴国奠基人孙策的风范。结果没过多久，他就开始骄奢淫逸，让所有人大失所望。孙皓喜欢饮酒，每次与群臣宴饮都要喝得尽兴，从不管别人能喝多少，一律要求喝醉为限，还经常戏耍公卿，以折损他人为乐。如果有人不合他意，还会被拘禁起来，甚至遭到屠戮。此外，他还不喜欢别人盯着自己看，所以每次臣子进见都要低着头。
当年，刘禅使司马昭看到了覆灭蜀国的希望。如今，孙皓又使司马炎看到吞并吴国的希望。与此同时，前线又传来了好消息——陆抗死了。
陆抗自西陵之战后身体便一直不好，临终前，他上书孙皓：“臣的父亲陆逊曾说：‘西陵是我们的门户，虽然容易防守，但更容易失守。一旦失守，国家危矣！’臣也如此认为。西陵是我们挡住晋国最重要的关口，它地处上游却又两面受敌，一旦被攻克，敌人就能轻而易举地顺流而下，直攻我们后方腹地，到那时就算四方援军回防也难以挽救。所以臣之前一直部署重兵把守，然而经历了上次与晋军的大战后，这些兵力损耗得很厉害，加之我国民众一向喜欢逃避兵役导致朝廷经常募兵不足。所以恳请陛下务必重视西边的防御，如果能使我留在那里的军队保持八万人的足额，让他们能尽心竭力地防御，那就无需多虑。如果做不到，臣担心国家就会非常危险了。”可惜并未引起孙皓的重视。
陆抗死后，羊祜难过地登上岘山，向吴国的方向远远眺望，哭着祭奠了这位亦敌亦友的对手，然后上书司马炎请求伐吴。
“孙皓昏庸残暴远胜刘禅，吴国的贫困也远甚蜀国。我们如今兵强马壮，正是灭亡他们的大好时机。可由川蜀调集水军合力进攻他们南边，荆州出江陵（湖北）进攻他们西边，再从山东和江苏派遣步兵进攻他们北边，这样吴国便会四面受敌，防不胜防。一旦被我们攻破了门户，他们就会失去长江天险之利，而不得不舍长取短地与我们陆上交战，败军必矣。如果我们不抓住这个时机，等到吴国换了一位有为之君，到那时就算有百万大军也难以跨越长江了。”
司马炎看后大为赞同，但是朝臣们却都持反对意见，就连贾充也认为暂时不可伐吴，只有尚书杜预赞同，而他也成了之后灭吴的重要功臣
这个杜预是司马昭的幕僚，常年镇守边关为将，很多人对他并不熟悉，但他有个后人却是家喻户晓——唐代大诗人杜甫。
后来羊祜病重，举荐杜预取代了自己。他死那天，天下大寒，使得须发上的泪水都凝结成了冰。司马炎哭得特别伤心，吴国人也全都停下劳作来祭奠他，就连守边的将士也全都掩面哭泣。
羊祜死后，杜预继承了他的遗志不断上表力求伐吴，身处蜀地的王浚也屡屡随声附和。
终于，在279年11月，司马炎统一了所有人的思想——伐吴！以杜预、王浚、王浑、贾充为将，起兵二十万，兵分多路向吴国攻去。
临行前，贾充还在坚决反对，并以年老体衰为由不愿出征，但司马炎下诏说：“如果你不能去，朕就御驾亲征！”不得已的贾充只好起行。
280年2月，杜预抵达江陵，将领王浑从横江（安徽）出兵，一路所向披靡，战无不胜。
吴主孙皓将全国集结起来的三万精锐全部交给丞相，命他渡过长江与王浑决战。有将领反对道：“晋国水军已训练多时，又身处我们上游，应该以逸待劳，坐等他们来攻。如果放弃容易镇守的长江前去交战，国家就危险了。”丞相把他叫到身边小声说道：“吴国将灭是众人皆知的事情，趁着现在人心未散，尚可集结起来拼死一战。等敌人攻至眼前，国内人心惶惶，将士们吓得连武器都拿不起来，到那时就只能坐等受辱了。”于是率军出战，横渡长江进攻王浑，最终兵败身死，吴国上下无不震惊。
而在西边，吴国各要塞将铁链连栓在一起封锁了江面，还将长达两米的铁锥沉入江底来阻拦王浚的舟舰。
王浚也是见招拆招，先做出几十米高的大火炬置于船前，在上面淋上麻油，这样遇到铁链后就会将其烧断。然后又制造了几十只竹筏，让善于水性的士卒驾驶，江底的铁锥遇上这些竹筏后就会被吸附在上面一同飘走。
于是水路通行无阻，王浚也顺利攻克西陵。之后正如陆逊和陆抗担心得那样，他有同一支穿心箭，一路射入了吴国的心脏——都城建业。
起初，司马炎命令王浚必须接受杜预与王浑的节度。等他到了建业，杜预写信说：“足下已在吴国威名远扬，无需再受我的命令，还请早日攻克建业，为百姓解脱苦难，立下千古奇功。”王浚看后十分高兴。
而另一边，也有将领向王浑建议早攻建业：“吴国已呈土崩瓦解之势，军队毫无士气，说不定能不战而胜。”可王浑此人一向怯懦，不愿担待责任，果然拒绝：“诏书只命我驻守长江北岸，不能草率出击违抗命令，还是等各路大军齐聚后再一同渡江吧！”正是这个决定，将吞灭吴国的千古大功拱手送给了王浚。
之后王浚从武昌（湖北）顺流直攻建业，孙皓立刻派遣一万水军前去抵抗，结果这些将士刚看到晋军的旗帜就全都丢盔弃甲了。王浚趁势继续深入，兵甲战旗布满江面，阵势非常浩大，吴国人看到后极为恐慌。孙皓又下令百姓帮助朝廷修造战船，结果民众也都四散而逃。