关于陌刀的出现，有资料说他是起源于汉代的斩马剑。比如，《唐六典》就说，“陌刀，长刀也。步兵所持，盖古之斩马剑。”其实，汉代的斩马剑，主要是说剑的锋利可以斩马。但实际上，斩马剑只是在会盟时，斩马祭祀，并不用在战场上。
另一方面，陌刀虽然如剑之形，但两面开刃，是一种特殊的刀。加上冶炼锻造技术的进步，陌刀要比斩马剑锋利，所以能斩骑兵之马。毕竟骑兵之马有马具，而且相当厚实。
陌刀制造复杂，工艺繁琐，成本太大，所以唐朝政府对陌刀管理极为严格。即便是帝王将相，死后也不能带入墓内，故而在今天发掘的唐代墓中，始终找不到陌刀。
到了晚唐五代时期，由于常年战争，军械消耗快，陌刀这种精良武器，压根玩不起，于是逐渐退出历史舞台。
陌刀的起源、实战和消失，都足以说明陌刀的威力。在唐代对付骑兵的诸多兵器中，当以陌刀为最厉害。首先，我们来算一下陌刀的造价。古代士兵装备中最昂贵的是战马，一匹普通的战马要花费上百贯，好马价格更昂贵。唐代200多年里，米价的平均价格是一斗米10钱，10斗米是一石，一石是一百钱，一百个铜钱能够买现在的120斤大米，一贯铜钱能够买到1200斤大米。唐朝一个普通的农家一家一年的花销不超过4贯，甚至比这更少。陌刀一把保守的估计造价要一百贯以上。一百贯都能买一匹战马了，而一把好的横刀才2贯钱，一百贯在唐朝能够买到一栋挺好的房子。唐朝顶峰的时候配备陌刀的军队最多不到两万，这就花销很大了。
毫无疑问，陌刀创造了盛唐时期辉煌的战争历史，也缔造了陌刀的神话。同时也成为了留给世人的一个永远的神话。