再说司马光自罢官后，戴着一个端明殿学士的头衔，两耳不闻窗外事，闲居洛阳，潜心编撰《资治通鉴》。公元1084年十二月，《资治通鉴》修撰完毕，朝廷授司马光为资政殿学士。
司马光一边隐居一边修书，在洛阳长达十五年，反而为他在民间赢得了巨大的名声，世人认为司马光是真宰相，田夫、野老都称他为“司马相公”，连妇人、小孩也知道他的字为“君实”。
神宗驾崩，司马光入朝哭临，京都卫士远远望见，以手抚额道：“司马相公回来了！”
司马光所到之处，老百姓聚集拦住道路大呼道：“司马相公不要回洛阳了，留下来做天子的宰相啊！”道路拥塞，导致司马光的马都不能进发，司马光心里感到害怕，急忙返回洛阳。
太皇太后高氏听说这事之后，派内侍梁惟简到洛阳慰问司马光，并征询司马光当务之急的治国方略。
司马光上疏洋洋洒洒几千言，中心思想就是“放开言路，虚心纳谏！”高氏认为有道理。五月，朝廷下诏，让百官进言朝政得失。
朝中有大臣不高兴了，在诏书中设置了六个进言的门槛：“一，进言发泄不满；二，超越职权范围；三，擅自议论机密的军国大事；四，迎合已经施行的法令；五，对上观望朝廷意图想侥幸升官；六，对下迷惑世俗沽名钓誉，出现上述六种情况，一定要处罚不宽恕！”
太皇太后又将这份意见命人拿给司马光看，司马光道：“这哪里是征求谏言，这是分明是拒绝谏言啊！人臣要么不进言，一说话怎么会脱离这六件事范围？”
太府少卿宋彭年、工部员外郎王谔率先响应诏书，上书言事，有大臣要拿他们两个杀鸡儆猴，说他们上言不是本职工作，罚铜三十斤。司马光上疏详细驳斥这种观点，朝廷依司马光意见，重新颁布诏书，不久上书言事的近达千人。
五月初，朝廷下诏，起复司马光为知陈州（河南淮阳），司马光即从洛阳启程进开封拜见哲宗皇帝和太皇太后。
五月中旬，首相王珪在任上薨逝，王珪在三月上旬担任山陵使，应该说身体尚健硕，否则王珪定然会推辞，不然王珪如何上山查看陵墓？仅两个月，王珪突然薨逝，可见他得的是急病，来势凶猛！
王珪一死，山陵使空缺，宰相剩蔡确一人了，山陵使自然而然由蔡确担任。
几天后，司马光从洛阳赶到了开封，入宫拜见小皇帝和太皇太后，太皇太后和司马光面谈之后，却改变了几天前的决定，不让他走了，直接提拔他为门下侍郎。这次，司马光仍然上劄子（宋朝大臣的奏折）辞免，并在箚子提出更改新法的要求，这就有点要挟的味道了，好在太皇太后的政治观点和司马光比较契合，派使者赐司马光手诏，让他慢慢来，算是半应允了。司马光的亲朋好友也规劝他，如要废除新法，不在朝廷怎么实现？司马光醒悟过来后，立即走马上任。
前文说过，门下侍郎实际就是元丰改制前的参知政事，为副宰相。司马光是保守派的首脑人物，太皇太后的这个任命，透露出一定的信息，难道朝廷的政策要大变吗？
正当新法派心中惴惴不安之时，朝廷在任命司马光为门下侍郎同时，任命蔡确由“尚书右仆射兼中书侍郎”进“尚书左仆射兼门下侍郎”（即首相），韩缜由知枢密院事进“尚书右仆射兼中书侍郎”（即次相），章惇由门下侍郎进“知枢密院”。
三份任命书让新法派大大地松了一口气。蔡确和章惇是新法的极力拥趸者，韩缜也偏向新法。两府大臣中，前面的三大头都是新法派，三位副宰相，除了王安礼和司马光，张璪和李清臣都属于新法派，新法派何惧之有？
可司马光回到权力中枢，就是要和新法派决斗的，所以，朝廷顶级的人事安排，司马光肯定是不满意！
佐料：王珪是成都人，幼年机敏出众，语出惊人，堂兄王琪读了他写的文章后，赞叹道：“良驹出生，志向千里，只不过兰筋（马目上的筋名，此筋坚固，则为好马）尚未长成啊！”公元1042年，王珪高中榜眼，时年二十四岁。
公元1070年，王珪拜为参知政事，公元1076年升为宰相。王珪是一个偏向新法的中间派。因此也不喜欢司马光。
公元1080年九月，元丰改制时，神宗赵顼对执政大臣道：“官制改革，新人、旧臣都应该起用。”还特别说明：“御史大夫，非司马光不可！”
王珪和蔡确闻言，相顾失色，王珪很忧愁，不知怎么办好。蔡确鬼点子多，对王珪道：“皇上想收复灵武，王公如果从这件事入手，可以确保宰相位置不倒。”
王珪大喜，十分感谢蔡确的建议。随后，王珪推荐俞充统帅环庆路，让神宗一心考虑平定西夏的策略，如果用兵深入，神宗便无暇顾及司马光了，事后果然如此。
公元1082年四月，仿照唐六典，确定三省新官制。事无大小，由中书省拟旨，门下省审核，尚书省施行。三省分班奏事。最后中书省合并总结归纳。
中书省既拟旨，又作总结，实际权力远高于其他两省。
蔡确诓骗王珪道：“王公久在相位，当授中书令！”王珪也觉得理所当然。
蔡确和王珪说完后，转身对神宗赵顼道：“三省长官中书令、尚书令、侍中三个职位实在太崇高了，所以不应该设置三省长官。只要令左右仆射分兼两省侍郎足够了。”赵顼深以为然。因此任命王珪为尚书左仆射兼门下侍郎，蔡确为尚书右仆射兼中书侍郎，蔡确名义为次相，实际权力反而更大，王珪虽然为首相，议事“拱手而已。”