吴起极为重视军队建设，他主张建立一支士气旺盛、训练有素、纪律严明而又勇敢善战的新型军队。他认为兵不在众而在精，精兵三千，则"内出可以决围(突破重围)，外人可以屠城(攻破城邑)"。要达到这一目的，必须"戒教为先"，"以治为胜"。也就是要狠抓教育、训练、纪律、组织这四个环节。
吴起认为，军队建设的首要问题，是作好教育工作，特别是思想政治工作。他说："凡治国、治军，必教之以礼，励之以义，使有耻也。夫人有耻，在大足以战，在小足以守矣。"也就是说，只有先用新兴地主阶级应遵循的道德规范--礼，来教育军民。用符合这个阶级利益的行为准则--义，来激励官兵，使他们懂得光荣与耻辱，才能使他们为争取光荣和避免耻辱而去为统治阶级战斗。吴起对士气在战争中的作用，认识也比较深刻。他认为"严刑明赏"固然重要，但"非所恃也"，不能完全依赖它来获取胜利。必须通过思想教育，充分调动人的积极性，达到"发号布令而人乐闻，兴师动众而人乐战，交兵接刃而人乐死"，才能确保战争胜利。吴起激发士气的办法，是物质鼓励与精神鼓励并用。物质鼓励，就是对立功者赐以官爵田宅；精神鼓励，就是使有功者感到光荣。例如他曾建议魏击，在宗庙召开庆功宴会，座分前、中、后三行，"上功坐前行"，食上等酒菜，用贵重餐具；"次功坐中行"，待遇稍次；"无功坐后行"，一切从简。并将与会人员的家属，也召集到宗庙门外开会，不仅让他们看到自己夫、儿、兄、弟的座次情况，而且也同样按功给奖。毫无疑问，在这种情况下，有功者必感光荣，无功者也会引以为耻，既鼓励了有功者，也激励了无功者。据说："行之三年，秦人兴师临于西河，魏士闻之，不待吏令，介胄而奋击之者万数"。吴起请求魏击，"试发无功者五万人"由他率领与秦作战，魏击同意了他的请求，授予他"车五百乘，骑三千匹"，结果"破秦五十万众"。人们评论说，"此励士之功也"。看来吴起颇懂得一些军事心理的学问。
吴起在军队建设上，十分重视训练工作。他说："夫人常死其所不能(不会战斗技术)，败其所不便(不熟练战术)"，因而，虽然常备军的土卒都是考选而来的精壮之士，仍需进行严格的训练。吴起提到的训练内容相当全面，既有单兵动作，如跪下、起立、行进、停止以及转法等("坐而起之，行而止之，左而右之，前而后之")，又有队列教练，如解散、集合、列队及队形变换等("分而合之，结而解之"，"圆而方之")，还有行军、宿营和掌握指挥信号以及保养马匹等。特别值得一提的，是他的训练方法，大有创新。他不用一般的同时集中训练的方法，而采用了一种先训练少数骨干予以提高，再训练多数人员予以普及的办法。他说："一人学战，教成十人，十人学战，教成百人......万人学战，教成三军"。这在当时，应当说是相当先进的。
吴起虽然认为胜利不能专恃"严刑明赏"，但并非不重视军队纪律，而是极为强调。他说："法令不明，赏罚不信，金之不止，鼓之不进，虽有百万，何益于用？"因而，他要求士卒必须"任其上令"，绝对服从，一定要做到"令行禁止。严不可犯"。他处死未奉命而斩敌首级之卒的事例，足以说明他执法之严。他还规定作战时"进有重赏，退有重刑"。他认为这样的军队，"投之所往，天下莫当"。
在军队组织上，吴起主张精锐部队应按照各人的特点进行编队。例如将"有胆勇气力者，聚为一卒(编为一队)"，"能逾高超远、轻足善走者，聚为一卒"等。这样编队，有利于根据战术需要部署部队。在各队的编组上，吴起也主张量才使用，按士卒具体情况分配战斗任务。例如使"短者持矛戟，长者持弓弩，......弱者给厮养，智者为谋主"等。同时还吸收了管仲组军的精神，注意"乡里相比，什伍相保"，使同乡邻居之人编在同一什、伍之中，以利于互相帮助和互相担保。