任太史令期间,他一方面对朝廷的史籍和收集的百年之间的遗文古事、各种典籍进行整理;另一方面访问朋友或根据实地调查对材料重新加以订正和补充。他阅读国家藏书,研究各种史料,经过4年的积累,到他42岁时,著史工作已基本具备条件。
可是,万万没想到,就在司马迁潜心著史时,他由于替李陵辩解,惨遭腐刑,痛不欲生。出狱后,司马迁任中书令,他为了完成父亲的遗愿,忍辱负重,发愤完成了所著史籍,人称其书为《太史公书》,后称《史记》。
司马迁广泛的游历和残酷的命运使他对社会有了深刻的了解,在此基础上,他又继承了先秦的史官传统和诸子文化,确立了不屈服于君主淫威的相对独立和批判性的写作立场,因此,他著述的《史记》可以说是一部伟大的著作,是一座伟大的丰碑。《史记》是中国古代第一部由个人独立完成、规模最大、具有完整体系的著作。
《史记》是一部百科全书式的通史著作,开创了纪传体文学的先河。它上起黄帝,下迄汉武帝太初年间,空间包括整个汉王朝版图以及作者能够了解到的所有地域。全书130篇,50多万字,由本纪、书、表、世家、列传5种体例构成,通过这5种不同体例相互配合、相互补充,构成了完整的史书体系。它以大量的个人传记,组合成一部宏伟的历史,用一系列栩栩如生的故事再现历史上的场景和人物活动。它把中国文学塑造人物形象的艺术提高到一个新的高度。《史记》塑造的人物形象组成了一条丰富多彩的人物画廊,给人们以丰富的人生启迪。