到第一次应乡试举人，他却不幸落第。
这次失败，使他痛自检讨，再搬出几百篇自己的旧作细读，不禁喟然叹道：“吾今之学，乃犹未之学也！”愤然将这批旧稿，一把火烧个干净，决心取出《论语》、《孟子》、韩愈文来从头再读，继续穷究诗书经传诸子百家之书，贯穿古今。每日端坐在书斋里，苦读不休者达六、七年，并发誓读书未成熟前，不写任何文章。此时，苏洵已二十七岁。
生儿育女
景祐二年，苏洵发奋读书，立下壮志。程夫人生幼女，因排行第八古称“八娘”。次年，在家继续发奋读书。程夫人生次子苏轼。兄长澹居家中，仲兄苏涣为开封士曹官有两子两女。景祐四年，苏洵去京师礼部考取进士，未被录取。
宝元二年，苏洵居家竭力苦读，考究古今治乱得失。程夫人生幼子苏辙。是年苏洵到阆州去探望在那儿做官的哥哥苏涣，看到哥哥治理地方成绩很好，颇受感动。不久他东下出夔州巫峡，顺流而到荆州一带，游学各地，结交有学问的师友，增加了不少见闻和人生经验。
庆历七年到至和二年，苏洵继续居家读书，考究古今治乱得失同时教授苏轼和苏辙读书。年间苏洵的幼女八娘在舅父家遭受虐待，苏轼的表兄也就是八娘的丈夫助虐，忧愤而死，苏洵、苏轼、苏辙因此与程浚及程之才断绝来往。苏洵多次远游，和成都官员张平交好，张平曾向欧阳修举荐苏洵。
嘉祐初年，苏洵带二子进京应试，谒见翰林学士欧阳修。欧阳修很赞赏他的《衡论》、《权书》、《几策》等文章，认为可与刘向、贾谊相媲美，于是欧阳修向朝廷推荐苏洵。公卿士大夫争相传诵苏洵，苏洵文名因而大盛。在京期间，他认识了保聪禅师。嘉祐二年，他和二子同榜应试及第，顿时轰动京师。
嘉祐三年，赵祯召苏洵到舍人院参加考试。苏洵推托有病，不肯去应诏。次年，苏洵带领全家乘船沿岷江而下，东出三峡，走水路进京，在丰都参观仙都观，传说这是阴长生升仙的地方，他写有《题仙都观》诗凭吊这个仙人。
后来经韩琦推荐，苏洵被任命为秘书省校书郎。又为霸州文安县主簿，当月命苏洵去礼院与陈州项城县令姚辟同修太常因革礼书。苏涣出知涟水军，又提点为利州路刑狱，苏洵父子于西郊送别。八月苏轼、苏辙参加制科考试及殿试。九月苏轼被任命大理评事，苏辙被任命秘书省校书郎。十一月苏轼辞别父亲去凤翔赴任。
志平三年三月，《太常因革礼》编撰完成。苏洵所著《易传》尚未完成即病重，命子苏轼述其志写完《易传》。