钟，鹦鹉就会呼唤琵琶的名字。不久，琵琶死于瘟疫，蔡确再没敲过小钟。一天蔡确误将小钟击响，鹦鹉闻声，又呼琵琶名字。蔡确触景生情，大感悲怆，赋诗一首：“鹦鹉声犹在，琵琶事已非。堪伤江汉水，同去不同归。”此后不久，蔡确郁郁成疾，殒命岭南。
沈括上奏要求修改免役法时，蔡确弹劾道：“沈括既然觉得免役法要变更，为什么当年不在他检正察访的时候说，现在却在不属于他管的时候说？他身为近臣，既然眼见朝廷的法令有不当之处，却不公开在朝廷上说出来，反而在私下告诉宰执大臣？他岂是为了朝廷好，只是想要依附大臣，为自己的利益着想罢了。他是觉得王安石被罢相了，新法就可以动摇了。希望陛下对他加以治罪。”沈括因此被贬为宣州知州。
相州有三个人以“劫盗杀人”的罪名，被当地判处为死罪。但审刑院经过复查后，发现这是一个错判的案子，其中两名从犯不应被判处死罪，便要求相州改判，但此时两名从犯都已被处决了。此事牵连到了审理此案的相州观察判官陈安民，陈安民的亲姐姐是文彦博儿子文及甫的生母，而文及甫是左相吴充的女婿。
于是陈安民为了消灾弭祸，一面让下属用钱贿赂大理寺上下官员，一面让文及甫请吴充之子吴安持帮忙。蔡确认为事关大臣，不是开封府可以了结的，于是移交给御史台，杜绝了官官相护的官场人情。后来，右相王珪力荐蔡确参与审理。因为此事，蔡确被擢升为御史中丞、领司农寺。左相吴充想废止新法，蔡确说道：“曹参与萧何有矛盾，等到曹参代替萧何为相，却遵从萧何指定的法令。现在陛下主持变法，怎么能允许吴充因为与王安石的私怨而废除？”
元丰五年，蔡确被拜为尚书右仆射兼中书侍郎。当时富弼居住在洛阳，上疏说蔡确是小人，不可以重用。蔡确对王珪道：“您任宰执这么长时间，必是中书令。”王珪深信不疑。蔡确却对赵顼道：“三省的长官位高权重，不需要设置长官，只需要让左右仆射分别兼任两省侍郎就可以了。”赵顼认为他说的很对采纳了他的建议。
蔡确名义上是次相，实际上却大权在握。王珪虽然是尚书左仆射兼门下侍郎，名义上高于蔡确，但也只能拱手听命。赵顼虽然按照顺序任命王珪、蔡确为相，却不加以礼重，多次因为小错对他们处以罚金。每次受罚就去宫门谢罪。
这时，中丞李定和御史舒亶，弹劾湖州知州苏轼怨谤君父，因此苏轼被打入大牢。原来苏轼从杭州调任徐州之后，他写了《湖州谢上表》，略叙他过去无政绩可言，又讲了一下皇恩浩荡，本来没有什么问题。但是他在后又写了上
几句牢骚话：“陛下知其愚不适时，难以追陪新进；察其老不生事，或能牧养小民。”
其中句中“其”为自称，他以自己同“新进”相对，说自己不“生事”，就是暗中说“新进”人物“生事”。监察御史里行何正臣摘引“新进”、“生事”等语上奏，说苏轼“愚弄朝廷，妄自尊大”。王安