中国散文文学形成的历史，从没有文字到有文字，从片言只语到成段成章，再到中心明确、结构谨严的篇章，经历了一个漫长的发展过程。 真正标志着中国古代散文已经形成的，应该是《尚书》。《尚书》主要载录了殷商、西周时期的典、谟、誓、命、训、诰，以及东周作品，是上古的一部官方历史文献。卜辞与《周易》是巫官之作，《尚书》是史官之作；前者记录的是对神的祈祷与所谓神的启示，后者记录的是王公的言辞与政令。
现存的《尚书》已几经聚散，真伪杂糅。《盘庚》三篇是盘庚迁都于殷的三次训话。但全文中心突出，议中夹叙，有生动的比喻，富于感情色彩，从中可见盘庚的胸怀、胆略与神情。它与《周书》中写周公告诫周成王的《无逸》等篇，可算是较早的、比较完整的论说文。较早而又比较完整的记叙文，则可以《周书》中的《顾命》为代表。《顾命》记叙周成王之死和周康王即位的经过，先记成王临终时对大臣们的遗嘱，接着记述康王即位的仪式，最后是召公和诸侯们对康王的告诫和康王的答词，记叙具体而有层次。《尚书》之后，散文分别向着偏重于论说的诸子散文和偏重于记述的历史散文两方面发展。