时，王安石施行变法，朝廷内外有许多人反对，司马光就是其中之一。王安石变法以后，司马光离开朝廷十五年，专心编纂《资治通鉴》，用功刻苦、勤奋。用他自己话说是：「日力不足，继之以夜。」
宋仁宗末年任天章阁待制兼侍讲知諫院，他立志编撰《通鉴》，作為封建统治的借鉴。治平三年（1066）撰成战国迄秦的八卷上进，英宗命设局续修。神宗时赐书名《资治通鉴》。
王安石行新政，他竭力反对，与安石在帝前争论，强调祖宗之法不可变。被命為枢密副使，坚辞不就。次年退居洛阳，以书局自随，继续编撰《通鉴》，至元丰七年（1084）成书。
他从发凡起例至删削定稿，都亲自动笔。元丰八年宋哲宗即位，高太皇太后听政，召他入京主国政，次年任尚书左僕射、兼门下传郎，数月间尽废新法，罢黜新党。為相八个月病死，追封温国公。遗著有《司马文正公集》《稽古录》等，还有诸多名著被眾人所流传。
司马光的远祖可追溯到西晋皇族安平献王司马孚，司马光的父亲司马池曾為兵部郎中、天章阁待制（属翰林学士院），在藏书阁担任皇帝的顾问，官居四品，一直以清廉仁厚享有盛誉。
司马光出生时，他的父亲司马池正担