这一日，向秀出游归来，不料竟路经一处昔日与嵇康欢聚过的旧庐，时已日暮虞渊，凝寒凄然，但见栋宇虽存而人去庐空，向秀的心中陡然生出一股无限的思念和伤感。于是在长叹一声之后，便写下了一首《思旧赋》来。赋序云：“余与嵇康、吕安居止接近，其人并有不羁之才。嵇意远而疏，吕心旷而放，其后并以事见法。嵇康综伎艺，于丝竹特妙，临当就命，顾视日影，索琴而弹之。逝将西迈，经其旧庐，于时日落虞泉，寒冰凄然。邻人有吹笛者，发声嘹亮。追思曩昔游宴之好，感音而叹，故作赋曰：将命适于远京兮，遂旋反以北徂。济黄河以泛舟兮，经山阳之旧居。瞻旷野之萧条兮，息余驾乎城隅。践二子之遗迹兮，历穷巷之空庐。叹黍离之愍周兮，悲麦秀于殷墟。惟追昔以怀今兮，心徘徊以踌躇。栋宇在而弗毁兮，形神逝其焉如。昔李斯之受罪兮，叹黄犬而长吟。悼嵇生之永辞兮，顾日影而弹琴。运遇于领会兮，寄余命于寸阴。听鸣笛之慷慨兮，妙声绝而复寻。伫驾言其将迈兮，故援翰以写心。”
写毕，掷笔于地，伏案大哭，三日而不进食。后虽在朝为官，却不任职，官至黄门侍郎、散骑常侍。郁卒于嵇康被诛后十年，即公元二七二年，时年四十五岁。
竹林七贤中年岁最长者山涛，亦在嵇康被诛后不久，完全投人了司马昭门下。
与向秀不同，山涛人仕，非为避祸自全，乃是志在高就。为何？这就叫人各有志，不能强求。山涛虽少有器量，介然不群，性好老庄，隐身自晦，但对人仕，却有浓厚兴趣。
昔山涛布衣家贫，其妻常有怨言，他却戏言道：“且忍饥寒，我后当做三公，但不知汝堪作公夫人否？”可见，对于人仕，山涛心中早有盘算。再加上他与司马氏一门有姻戚之亲，故而，在嵇康被诛之后，他便少了许多顾忌，一门心思地投靠在司马氏门下。而司马昭也把他当做心腹看待，每有大事，总要求询于他。
咸熙元年正月，钟会在蜀谋反，司马昭拟挟魏天子率兵西征。时曹魏诸王皆在邺城，为防诸王发难，司马昭便将心腹贾充安排在汉中，而拨五百亲兵给山涛，让他以本官行军司马镇戍邺城，临行前执其手道：“吾昔错杀嵇康，心甚悔之。今日钟会叛反，乃吾自食其果，吾去之后，西偏吾自了之，后事深以委卿，拜托、拜托。”言毕放心走了。西征归来，后方果然无忧，司马昭就更加信任山涛。
这时又出了一桩更大的事儿，就是立世子之事。原来到了咸熙元年十月，魏禅于晋的大势已定，何时禅晋，不过差一仪式而已。但谁当世子，朝廷上下，争议颇大。有人推荐齐王司马攸，有人荐举司马炎。司马攸也是司马昭的儿子。只不过司马炎是老大，而司马攸是老二，又过继给无子的司马师。故司马师亦想把司马攸推上去，自己将来好当太上皇。
于是，兄弟之间，便开始你争我斗，司马昭无奈，最后去问山涛，山涛道：“废长立少，违礼不祥，国之安危，恒必由之。且中抚军聪明神武，有超世之才，发委地，手过膝，此非人臣之相也。”于是世子之位乃定。七个月后，即次年的五月，立世子司马炎为太子；年底，便正式受禅，为晋武帝。
从此以后，山涛已完完全全的身人局中，为司马氏一门忠心效劳，而司马氏一门对他也敬崇有加。自武帝司马炎登基之后，就不断给他加官晋爵，从车都尉，晋爵新沓伯，又转太子少傅、加散骑常侍、除尚书仆射、加侍中、领吏部，其间因丧母，山涛想趁机告老还乡，没想上疏朝廷，竟遭晋武帝驳回，道：“君以道德为世模表，况自先帝识君远意。吾将倚君以穆风俗，何乃欲舍远朝政，独高其志耶？”山涛又上表固辞，不让。
未几，又拜山涛为司徒，山涛谦让不受，写信给司马炎，道：“臣事天朝三十余年，卒无毫厘以崇大化。陛下私臣无已，猥授三司。臣闻德薄位高，力少任重，上有折足之凶，下有庙门之咎，愿陛下垂累世之恩，乞臣骸骨。”
司马炎即以手诏回复道：“君翼赞朝政，保卫皇家，匡佐之勋，朕所倚赖。司徒之职，实掌邦教，故用敬授，以答群望。岂宜冲让以自抑损邪。”时山涛年已垂暮，自感必不久于人世，若再在朝视事，于公于私，必有弊无利。
于是再表疏告退，这次写得更为恳切，道：“臣年垂八十，救命旦夕，若有毫末之益，必遗力于圣时。迫以老耄，不复任事。今四海休息，天下思化，从而静之，百姓自正，而臣耳目聋瞑，不能自励。垂没之人，岂可污官府乎？”
司马炎接到上疏，仍不干休，又手诏曰：“君年耆德茂，朝之硕老，是以授君台辅之位，而远崇克让，至于反覆，良用于邑。君当始终朝政，翼辅朕躬。”山涛接诏，正要再奏，不料生了一场大病，辗转床第一年有余，从此再也站不起来。