史载，晋武帝司马炎共有25个儿子。司马衷是次子，是正宫杨皇后所生，所以于武帝泰始三年被立为太子，时年9岁。
司马衷一、两岁时，大家发现他简直就是个弱智，是一个什么都弄不清楚近乎白痴的低能儿。因长子已于两岁时夭折，按封建皇族礼法只能立他为太子。但司马衷实在让老爹晋武帝瞧不上眼。武帝司马炎见他痴愚异常，恐怕难继大统，所以想在其他儿子中选个聪明能干的当自己的继承人。
武帝和杨皇后商议改立太子一事，杨皇后当然希望自己的儿子能继位，就不厌其烦地唠叨“自古立长不立幼”祖制，坚决要立司马衷，武帝拗不过她，又不便擅改古训，只好立司马衷为储君。
儿子众多，而且二儿子秦王司马柬一度人望很高，被很多人认为是更为合适的皇位继承人，但是司马炎仍然选择了以司马衷为继承人，而拒绝了其他人的建议。这个事情确实看起来很奇怪，不太符合逻辑。
但是，如果从司马炎的经历来看，就会发现，这个选择并不奇怪，而是合乎逻辑的结果。
司马氏从司马懿发动高平陵之变开始，基本上完全掌握了曹魏政权。但高平陵之变是一次政治逆袭，风险非常高。司马懿之所以能够取得成功，是因为他得到了曹魏政权的一大批功臣勋旧集团的支持，尤其是文官集团的支持，如蒋济、高柔等人，都是司马懿发动政变的支持者。
高平陵之变顺利除去曹爽集团之后，又通过废黜齐王芳、改立高贵乡公髦，之后又弑杀曹髦，改立曹奂，这一系列废立皇帝的举措，逐步暴露并将仍然忠于曹魏政权的一批大臣边缘化，而用忠于司马氏的文武臣僚取代，才逐步完成权力转移过程。而且，在这个过程中，出现了淮南三叛，都是以反对司马氏专权为名义的。
相比之下，司马师继承司马懿的权力是自然而然的过程，司马懿一直是把司马师当作自己的接班人培养。甚至司马师的几次婚姻，也完全是服务于司马氏家族的政治利益的。发动高平陵之变前，在进行秘密策划的时候，司马懿也只和司马师商量过，连司马昭都没有在事前得到消息。
所以政治才华平庸，气度也不太宽的司马炎最终选择了死硬到底，再加上司马衷运气好，生了个聪明伶俐的儿子司马遹，立刻就被立为皇太孙，司马炎又多了一个挡箭牌“太子仁厚，皇太孙又聪明伶俐”，司马家的皇位继续在这一支流传下去，当然是万岁万万岁喽。当然，后来的八王之乱到永嘉之乱，彻底证明了司马炎的想法，是一厢情愿。