司馬遷的祖上就是史官，當時的史官除了記錄皇室的言行之外，還掌管著天文歷法。到了司馬遷父親的這壹代，在漢朝廷之中做了太史令，但是卻不為人所重視。但是他的父親不在乎別人的看法，對自己的工作盡職盡責，而且對兒子的培養十分的重視。
在司馬遷十歲的時候，他的父親就開始教他古文。等到司馬遷二十歲的時候，在司馬談的幫助與鼓勵之下，司馬遷開始了遊學。他的足跡踏遍了黃河和長江中下遊地區。他到達壹個地方並不是只是為了觀光，而是實地考察民風和物產，並且向當地人詢問壹些常識。後來他成了郎中，跟隨漢武帝又去了很多地方，並被派往雲南壹帶同那些少數民族進行交流。這些都為他以後能夠寫出史記提供了重要的素材。
上面他的經歷都只不過是壹些輔助，而最刺激他要去寫史記的原因是他父親的死。他的父親是壹位盡職盡責的史官，但是漢武帝去泰山封禪的時候卻沒有讓他的父親跟隨，他的父親感覺受到了極大的侮辱，壹病不起。他的父親臨死之前告訴他：“孝始於侍奉雙親，中等就是侍奉君王，而最高層次的孝就是著書立說。讓自己的祖先父母能夠揚名後世就是最高層級的孝。而我最大的遺憾就是沒能為忠臣義士們立傳，沒能寫出壹本史書來繼承孔子的春秋。我不能完成的事情，妳壹定要記得去做。”
於是司馬遷為了父親的夙願，毅然決然的走上了寫史書的這條道路。
他的父親死後，他繼承了父親的官職。那時候漢朝廷把所有搜羅來的書籍都收藏在皇家圖書館，而司馬遷因為是史官的原因，可以接觸到這些書籍。他從這些書中篩選資料，並保持高度的熱情進行創作。
但是不幸卻降臨在他的身上。李陵投降匈奴的消息讓漢武帝食不甘味，司馬遷為了能夠讓漢武帝寬心，也是他對李陵非常的了解，於是就說了讓漢武帝非常不開心的話，雖然司馬遷的初衷是好的。得罪了漢武帝之後，他面臨的是死刑。漢代有賣爵可以贖罪的制度，但是司馬遷家裏面沒錢，就算是壹般的官吏也負擔不起贖罪所支付的金錢。那麽擺在司馬遷面前的還有另外壹條路——宮刑。
壹方面是自己的榮辱，另壹方面是父親的夙願。在忍受著極度的內心煎熬之後，他選擇了宮刑去完成父親的願望，於是他茍且的活了下來。
司馬遷的才華是有目***睹的，漢武帝也發現了這壹點，開始重用司馬遷，漢書中記載“遷既被刑之後，為中書令，專寵任職事。”
司馬遷有壹個朋友名字叫任安，任安看到司馬遷成了皇帝身邊的紅人就有些不高興，寫信責怪司馬遷不照顧老朋友。司馬遷此刻的心情可想而知，但是他沒有發作。後來戾太子劉據被誣陷造反，而任安因為在皇帝與太子之間搖擺被漢武帝處以死刑。
這個時候司馬遷終於給任安回了信，心中不僅將自己為什麽沒給任安回信寫得清清楚楚，也將自己這些年受的折磨壹壹的吐露出來。這封信就是後來大名鼎鼎的報任安書。
他在信中說：如果是壹般的情況下，他寧願去死啊，怎麽去受最屈辱最不堪的宮刑，但是他的書沒有寫完，“草創未就，適會此禍。惜其不成，是以就極刑而無慍色”。
因為報任安書，我們才能真正讀懂司馬遷。他的形象才真正的高大起來。
史記之中百分之七十的傳記都是悲劇性的，雖然它位居二十四史之首，卻不僅僅是帝王將相的興衰錄，而是整個司馬遷那個社會以及司馬遷所能掌握的之前的社會的百科全書。