《史记》是传记文学的典范，也是古代散文的楷模，它的写作技巧、文章风格、语言特点，无不令后代散文家翕然宗之。从唐宋古文八大家，到明代前后七子、清代的桐城派，都对《史记》推崇备至，他们的文章也深受司马迁的影响。《史记》在语言上平易简洁而又富有表现力，把许多诘屈聱牙的古书词句译成汉代书面语，还适当地引用口语、谚语，显得生动鲜活。《史记》语言多是单行奇字，不刻意追求对仗工稳，亦不避讳重复用字，形式自由，不拘一格。正因为如此，历史上的古文家在批评骈俪文的形式主义倾向和纠正艰涩古奥文风时，都要标举《史记》，把它视为古文的典范。
《史记》的许多传记情节曲折，人物形象栩栩如生，为后代小说创作积累了宝贵的经验。
小说塑造人物形象的许多基本手法，在《史记》中都已经开始运用，如：使用符合人物身份、性格的语言，通过具体事件或生活琐事显示人物性格，把人物置于矛盾冲突中加以表现。从唐传奇到明清小说，在人物塑造、情节安排、场面描写等方面都可以见到《史记》的痕迹。同时，古代理论家还从写法上探讨《史记》与小说的关系，得出了许多精辟的结论。