宋神宗統治時期，封王安石為宰相，開始大規模地實施變法。作為守舊派的中堅力量，司馬光上書指出「先王之法，不可變也」，堅決反對王安石變法。為此，司馬光還曾與王安石在神宗面前爭論不休。當時，神宗變法的意志還很堅定，司馬光卻總是給他潑冷水，結果觸怒了龍顏。隨後，司馬光主動請求調離京城，到洛陽一住就是十五年。
早在神宗的父親英宗在位時，司馬光就開始編撰《資治通鑒》，當時這本傳世巨著還叫《通志》。後來，英宗看到了《通志》的前八卷，對司馬光大加讚賞，專門為司馬光設立了書局，向他提供人力和資金幫助，支持他繼續往下寫。神宗登基以後，將此書賜名為《資治通鑒》，因為他認為此書「有鑒於往事，以資於治道」，不僅如此，神宗還親自為此書作序。司馬光到洛陽任職時，將整個書局都一起帶到了洛陽，並在洛陽繼續編撰《資治通鑒》。
司馬光祖籍山西，他的父親司馬池為人寬厚，為官清正廉明，官拜四品，還曾在藏書閣擔任皇帝的顧問。司馬池在河南光州擔任光山縣令時，他的夫人為他誕下一子。司馬池非常高興，遂以當地的地名為兒子命名，叫兒子做司馬光。司馬光自幼喜歡讀書，時常讀到廢寢忘食。他小小年紀就對歷史十分感興趣，生平最喜歡的書就是《左氏春秋》。
司馬池非常重視對兒子的教育，司馬光天資聰穎，再加上父親的嚴格教導，讓他從小就表現出與眾不同的特質。司馬光砸缸救人的故事流傳至今，在當時更使得他享譽京城內外。
清代名臣陳宏謀曾稱讚司馬光「一生以至誠為主，以不欺為本」。司馬光從小就懂得了誠實守信的重要性，這同樣源自父親的教導。司馬光五六歲的時候，有一回想要剝核桃，但他自己並不會剝，便叫一名女傭幫自己剝。剝好之後，他騙姐姐說，核桃是他自己剝的。父親知道真相後，斥責他說：「小小年紀就敢這樣說謊騙人！」司馬光終生銘記這件事，從此再也沒有說過一句謊話。
後來有一次，司馬光吩咐管家將家中的一匹馬賣掉。這匹馬有肺病，一到夏天就會犯病，但在其餘的季節卻完全看不出來。司馬光叮囑管家，在買賣成交前，一定要先將此馬有病的情況向買家言明。司馬光說：「這匹馬能賣多少錢其實無所謂，但是我們一定要誠實守信，決不能為了錢財而壞了自己的信用，否則就損失慘重了。」
司馬光為官極為清廉，仁宗在位時，曾打算賞賜給他大量的金銀財寶，結果竟遭到了他的拒絕。他在洛陽編撰《資治通鑒》期間，生活十分拮据。其妻張氏過世時，他連為妻子治喪的錢都拿不出來。為了給妻子辦一個體面的葬禮，他便將自己僅有的一些田地全都當掉了。此後，一位朋友見他年紀老邁，孤苦無依，便想送給他一名婢女，侍奉他的日常起居。這本是朋友的一番好意，但司馬光卻婉言謝絕了。
司馬光是一名真正的君子，一生光明磊落，無愧於天地。無論是時人還是後人，都無法從他的品行之中挑出半點瑕疵。即便是與他政見相左，針鋒相對的王安石也不得不稱讚他：「司馬君實，君子人也！」「君實」正是司馬光的字。
司馬光飽讀詩書，才華出眾，十九歲時便考取了進士，從此開始了他的政治歷程。有人說，司馬光的一生總共做了兩件大事，其中之一自然是編撰完成了《資治通鑒》。
在洛陽的十五年間，司馬光將全部心血都傾注在《資治通鑒》的編撰工作中。儘管書局裡有很多助手從旁協助，兒子司馬康也加入其中，幫他校對。然而，在具體的編撰過程中，司馬光從不假手他人，《資治通鑒》的字字句句全是他的心血。後來，在《進資治通鑒表》中，他說自己已是「筋骨瘁，目視昏近，齒牙無幾，神識衰耗」。為了完成此書，司馬光歷經漫長的十九年歲月，勤勤懇懇，嘔心瀝血。長期的辛勞把他的身體徹底壓垮了，《資治通鑒》完成以後不到兩年，司馬光就病逝了。
《資治通鑒》全書共計三百餘萬字，分為二百九十四卷，以時間為綱，以事件為目，從戰國初期開始寫起，一直寫到五代末期後周世宗柴榮征戰淮南，時間跨度長達一千三百六十二年。
《資治通鑒》總共描述了十六個朝代的歷史，詳近略遠。全書有四成內容都在描述隋唐五代的歷史，其中唐朝佔據的篇幅最多，佔據了全書的八十一卷。司馬光對於盛世的描寫尤其詳盡，文景之治與貞觀之治等都成為他描述的重點。他總是喜歡在陳述完史事以後，再加上相關的評論。這些評論大部分都出自他的手，以「臣光曰」開頭，其餘的評論則出自各個名家之手，使《資治通鑒》成為「鑒前世之興衰，考當今之得失」的不朽名著。
《資治通鑒》堪稱中國古代君主的教科書，縱觀我國的古代史，也就只有司馬遷的傳世巨著《史記》能與之媲美，司馬光因此和前輩司馬遷並稱為「史學兩司馬」。南宋史學家王應麟曾說過：「自有書契以來，未有如《通鑒》者。」清代史學家王鳴盛也說：「此天地間必不可無之書，亦學者不可不讀之書。」
除了編撰《資治通鑒》以外，司馬光還做了一件大事，那就是反對王安石變法。王安石是北宋朝中改革派的先驅，司馬光卻是保守派的中流砥柱。兩人在政治上有著極大的分歧，但這並不代表他們有忠奸之分。事實上，無論是王安石還是司馬光，都對北宋朝廷忠心耿耿，他們所做的一切皆是出於為國為民的真心。
當時的北宋內憂外患，迫切需要改變現狀。王安石認為只有通過大刀闊斧的改革才能實現國富兵強，而司馬光則認為這樣的改革措施太過激進，只怕過猶不及，因此他主張循序漸進地進行各項整頓。儘管司馬光的政治主張有些保守，但在實踐的過程中，顯然比王安石雷厲風行的大變革更具有可行性。
司馬光與王安石在政治上的鬥爭完全是君子之爭。在鬥爭的前期，王安石率領的改革派佔據了上風。司馬光被迫離京，遠走洛陽。然而，司馬光並未因此記恨王安石，當時曾經有人勸說司馬光上書詆毀王安石，結果遭到了司馬光的嚴詞拒絕。司馬光與王安石雖是政治上的敵人，卻又惺惺相惜。
宋哲宗即位後，司馬光返回京城，主持朝政。然而《資治通鑒》的編撰工作早已耗光了他畢生的精力，年老體衰的司馬光執政不到兩年就因病去世了。京城百姓為之失聲痛哭，數萬人趕來參加他的葬禮。哲宗命人將其風光大葬，贈其謚號「文正」，並在其墓碑上親筆書寫了「忠清粹德之碑」六個大字。